数据与智能>业界新闻

美国证监会主席：AI或成为金融风险中心

作者：文少责任编辑：文少 2023-08-08 12:06:19

来源：电脑商情在线关键字：人工智能

美国证券交易委员会（SEC）的主席加里·詹斯勒（Gary Gensler）对于人工智能可能带来的金融风险表示了担忧。他指出，尤其是类似于ChatGPT这样的生成式人工智能工具的广泛应用，可能会对各行业甚至整个社会产生深远的影响。

近期，詹斯勒提到了他对人工智能的一些担忧。

他认为，人工智能有可能成为金融系统面临的下一个重大系统性风险。在2020年，他与人合作撰写了一篇关于深度学习和金融稳定性的研究论文。根据他们的结论，考虑到过去网络和平台效应对科技巨头的影响，未来可能只有少数几家人工智能公司能够建立起一些基础性的模型，来支撑其他企业所依赖的人工智能工具。

詹斯勒预计，未来美国可能只会出现2至3个核心的人工智能模型。这将导致整个经济体系更加紧密地联系在一起，从而增加金融系统崩溃的可能性。因为一旦某个模型或数据集成为核心，人们可能会产生“羊群效应”，即大家都会依赖相同的信息做出类似的反应。

他强调：“这项技术（人工智能）有可能成为未来危机和金融风险的中心。”

此外，人工智能模型可能会使企业的利益与投资者的利益产生冲突。例如，社交媒体驱动的股票狂潮以及零售交易应用的兴起，凸显了推送和预测算法的强大威力。然而，对于使用人工智能来研究投资者行为或提供交易建议的公司来说，当他们根据这些信息采取行动时，是否会将用户利益放在首位尚存在疑问。

为了解决这些问题，上个月SEC提出了一项规则，要求各个平台消除其技术中的利益冲突。詹斯勒解释道：“你不应该将顾问置于投资者之前，也不应该将经纪人置于投资者之前。因此，我们提出了具体的建议，以解决可能嵌入到模型中的冲突。”

至于生成式人工智能提供错误的财务建议时，谁应该承担责任？詹斯勒表示：“根据法律，投资顾问承担着受托义务、注意义务和对客户忠诚的义务。无论是否使用算法，这些义务都是一样的。”

在制定政策的过程中，关于谁应该对人工智能负法律责任的问题仍然存在争议。但是詹斯勒认为：“我们应该要求这些公司创建安全机制，因为任何使用聊天机器人的个体都不应该将责任完全委托给这项技术。他指出：“机器人的各项参数都是由创造它们的人类设定的。”

数字观察

热点新闻