AI领袖联名呼吁禁止强AI研发

近日，未来生命研究所呼吁暂停比GPT-4更强大的人工智能系统的研究，至少停止6个月，并吸引了1000多位专家签名支持，其中包括众多知名人士如埃隆·马斯克、史蒂夫·沃兹尼亚克等人。这是因为人工智能可能会带来巨大的风险，包括杀人等问题，并且已经有很多研究表明这一点。OpenAI公司也同样认为，AI可能会给人类造成威胁，因此在创立之初就选择成为一家非盈利机构，以保证AI不会威胁人类本身。

尽管目前与微软合作的OpenAI已经转型为依靠营收运转的企业，但AI技术的发展与风险仍然必须得到关注和妥善处理。随着AI变得越来越强大，人类必须面对它可能带来的影响与风险。6个月的停止研究意味着什么？在2023年3月29日前，ChatGPT还未面世，而现在，微软研究院已经宣称GPT-4已经摸到了通用人工智能的门槛。即便如此，OpenAI的声明中也指出，AI的发展是无法阻挡的，其潜力面前并没有人知道它会带领人类文明走向何方。

公开信明确呼吁所有AI实验室立即停止训练比GPT-4更为强大的AI系统，为期6个月，并且利用这段时间共同开发并实施一套用于先进AI设计与开发的共享安全协议，确保AI的开发不会造成灾难性影响，并且专注于让AI变得更加准确、安全、透明并与人类利益更一致，同时加快建立用于监管AI的强大体系。人们认为，对AI的研究和开发应该始终关注其潜在的风险并寻求解决方案，以确保AI不会成为威胁人类的“代言人”。

热点：人工智能系统