软件工程助理教授Dusan Ramljak（左）与维也纳大学博士生Alexander Neulinger和Lukas Sparer以及其他研究人员合作撰写了一篇关于使用区块链（加密货币背后的技术）使人工智能与人类伦理保持一致的论文。
莫尔文,Pa。 随着人们越来越多地在生活的各个领域使用人工智能（AI）来节省时间或提高绩效，人工智能系统的影响也在增长——在高风险决策中，不可信结果的风险也在增加，比如涉及医疗或金融选择的决策。 人工智能代理，如自主交易机器人或各种诊断工具，旨在在很少或根本没有人类直接参与的情况下学习、进化和操作。 那么，技术人员可以做些什么来帮助确保人工智能符合公共利益的道德价值观呢？
A team, including researchers from Penn State, published a paper in the 网络安全和隐私杂志 to explore ways that blockchain — the technology behind cryptocurrency — could help enforce ethical boundaries for AI systems.
In the Q&A below, study co-author and Penn State 巨大的山谷 Assistant Professor of 软件工程 Dusan Ramljak discussed the framework he and his team developed to investigate how to use blockchain for AI alignment with human ethics.
问：为什么人工智能的行为是一个如此紧迫的问题？
Ramljak: 人工智能系统被训练成在特定参数下以特定方式行动。 如果这些参数发生变化，例如在更广泛的系统中实施时，它们可能以与人类价值观相矛盾的不可预测的方式发挥作用——例如，通过错误处理敏感的健康数据来进行虚假陈述，或者通过推荐错误的医疗方法来提供错误的信息。 其后果可能是危险的。
随着我们将越来越多的任务委托给人工智能，我们需要找到方法来确保我们保持对这些系统的控制，并促进道德行为。 人工智能可以帮助我们提高日常生活的效率，但我们需要负责任地使用它，提供适当的测试环境，事先预测它的行为，并确保人工智能符合人类的价值观。
问：人们经常把区块链和加密货币联系在一起。 b区块链如何帮助人工智能合乎道德地运作？
Ramljak: 区块链通过加密技术创建安全、分散的数字记录，需要从输入到输出的透明数据沿路，并具有防篡改日志。 许多人工智能系统缺乏区块链提供的那种透明度、安全性和分散控制。 通过将AI与区块链结合，我们可以构建决策一致且可追溯的系统，并且操作规则和数据更难以操纵。
基于区块链的共识机制允许广泛的参与者对道德规则进行投票，然后将其存储为“智能合约”。 智能合约是机器可执行的道德规范，或自动执行的规则。 这些机制促进了人工智能系统开发中的分散协作和民主化，并确保机器尊重某些边界。 b区块链的安全特性也使恶意行为者更难操纵训练数据，从而导致人工智能系统给出不可信或有害的结果。
问：你的团队开发了什么框架来研究b区块链在人工智能系统行为上设置道德护栏的用途？
Ramljak: Our research team — which included 十大足彩平台 Assistant Professor of 信息技术 and 网络安全分析与运营 Maryam Roshanaei, 数据分析硕士 student Jainil Kakka, Vienna University doctoral students Alexander Neulinger and Lukas Sparer, as well as University of Kragujevac 教师 of Science and Department of Mathematics and Informatics doctoral student Dragutin Ostojić — 审查了7000多项研究，并制定了一个框架，以指导未来的研究，即区块链如何通过支持安全、透明的操作和提供问责制来促进人工智能系统的道德合规。
一项研究表明，区块链可用于验证人工智能输入数据并记录人工智能输出，这将有助于确保可追溯的决策。 另一项研究提出，区块链可以支持人工智能代理的声誉系统，为道德行为提供激励，并拒绝为误导或不合规行为提供资源。
我们还注意到文献中的一些空白，因此我们提出了一个三层分析框架，以进一步探索b区块链在AI对齐中的用途：
- 微观层面的分析：技术和编码协议，以确保用户数据的安全
- 中观层面分析：基于区块链的人工智能在各个领域的用例，如金融服务和医疗保健，并针对这些领域的独特需求提出具体要求
- 宏观层面的分析：道德原则和国际法律和文化标准，这些原则和标准规范了新兴技术在公共利益中的道德和可持续使用。 欧盟的《人工智能法案》是全球监管的一个例子，旨在通过强有力的治理和透明度要求，支持人工智能系统的可靠开发和负责任的使用。
问：使用基于区块链的人工智能有什么缺点？
Ramljak: 大规模bb0和人工智能系统可能是能源密集型的。 此外，隐私需要得到保护，这样让人工智能更加透明并不意味着暴露敏感数据。 从隐私到公平，不同的国家和文化地区对价值的重视程度也不同。 因此，一致性框架需要足够灵活，以便跨文化和法律体系工作。
问：未来需要进行哪些研究来探索基于区块链的人工智能与伦理的一致性？
Ramljak: 对于未来的研究方向，我们需要发展多层次的框架，将微观层面的安全和隐私机制、中观层面的部门治理和宏观层面的法律约束纳入一个单一的、适应性强的结构。
区块链和人工智能的融合不仅可以提高技术系统的可靠性，还可以为我们提供以人为本的治理新方法，确保大规模问责。 b区块链为我们提供了开发和使用人工智能的工具，以优先考虑人类价值和社会福祉。
