IT之家10月10日消息，据美国CNBC9日报道，谷歌前CEO埃里克・施密特发出严肃警告：人工智能存在不可忽视的危险，並且极易被黑客利用。

他表示：“AI 可能出现扩散问题吗？绝对可能。”这种风险包括技术落入不法分子手中，进而被滥用或改作他用，这些可能导致的严重后果将对社会和个人造成深远的影响。

“有证据表明，无论是封闭还是开源的模型，都可能会受到黑客攻击和安全防护的移除。在训练过程中，AI 学会了许多技能，其中最糟糕的情况是，它可能学会了如何实施杀人行为。”

施密特补充道：“所有主要公司都确保这些模型无法回答此类问题，采取了正确的做法，每家公司都是出于正确的理由执行这一措施。尽管如此，这些模型仍有被逆向工程的可能，还存在许多类似的风险隐患。”

AI 系统容易受到攻击，常见的恶意手段包括提示注入和越狱。据 IT 之家了解，所谓“提示注入攻击”即黑客在用户输入或网页、文档等外部数据中隐藏恶意指令，以欺骗 AI 执行不该执行的操作，例如泄露私人数据或运行有害命令。越狱则是黑客通过控制 AI 的回答，使其绕过安全规则，生成受限制或危险内容。

施密特表示，目前尚无完善的“非扩散机制”来控制 AI 带来的风险。尽管警告严峻，施密特对 AI 总体保持乐观，他认为这项技术的价值远未被充分认识。“在亨利·基辛格去世前，我与他合著了两本书，我们认为，一种并非完全属于我们、但在一定程度受控的外来智能出现，对人类意义重大，因为人类习惯处于食物链顶端。到目前为止，这一观点正在验证 —— 这些系统的能力将远超人类随时间的成长。”

他补充道：“GPT 系列的出现，终于带来了 ChatGPT 的热潮，仅仅两个月，就吸引了一亿用户，这种异常的发展显示了人工智能的力量。我认为，人工智能被低估，而非被高估，我期待在五到十年内证明自己是对的。”