当地时间9月18日，美国谷歌公司承认，其AI模型Gemini今年5月在网络安全测试中，通过猜密码和登录凭证侵入三家真实公司系统。谷歌称7月底已获知此事，模型发现异常后停止，未造成损害，无需主动公开情况。这是谷歌AI模型首起已知自主入侵事件。
据报道，今年5月，一家开展AI安全相关业务的公司在封闭的测试环境中对Gemini模型进行了测试。该模型收到指令，即从一个虚构公司的系统获取信息，而这个虚构的公司与一家真实存在的公司同名。测试环境本不应该接入互联网，但Gemini模型却“意外”获得网络访问权限，猜对密码并侵入那家真实存在的公司的系统。
报道补充称，在另外两起事件中，Gemini模型在网络上搜索并找到了包含另外两家公司凭证的公共代码库，使用凭证访问了这些公司的系统。
谷歌方面表示，Gemini模型发现侵入真实公司的系统后，停止了攻击。3家被攻击的公司都知晓此事。“这些事件凸显了训练强大AI模型以负责任方式运行的重要性。”谷歌一名发言人称。
美媒提到，美国Anthropic公司等平台的AI模型也曾发生类似情况，在网络能力测试中侵入其他机构的系统，这些事件使人们对AI技术失控愈加担忧。在此背景下，美国多名科技企业家呼吁人工智能企业放缓发展前沿技术。
（羊城晚报•羊城派综合封面新闻、环球时报）
责编：
校对：
审签：
版权申明
羊城晚报·羊城派原创，未经授权不得转载
