紧急“喊停”!千人联名呼吁:AI发展太快,引发担忧?

1.jpeg

AI发展太快 对社会和人类构成潜在风险引发担忧。

  3月14日,美国研发公司OpenAI正式发布人工智能语言模型的最新产品GPT-4,震动全球。两周时间过去,一封包括SpaceX首席执行官马斯克以及1000多名行业高管和专家签署的公开信在网上发布,他们呼吁,在至少6个月内,暂停开发比GPT-4更强大的AI系统,并警告人工智能的发展“对社会和人类构成潜在风险”。 GPT-4的发展为何会引发如此担忧呢?

  这封公开信中表达的普遍忧虑是,AI发展太快,相关的监管和法律没有跟上,甚至连发明者也缺乏有效的控制手段。

  英国神经学家 阿尼尔·塞斯 :我认为真正使我震撼的事,是机器学习和人工智能从开发到发布这一整个周期似乎非常之快。

  日本首相首次在内阁会议上回答“ChatGPT”提问

  29日,日本首相岸田文雄在众议院内阁委员会会议上回答了用OpenAI公司的聊天机器人程序“ChatGPT”生成的提问。随后,ChatGPT预测了岸田文雄的回答,在答辩后用展板进行了展示,答案的走向基本一致。

  日本首相 岸田文雄 :我的回答列举出了日本全国知事会、市长会等具体相关方的名称,更能反映实际状况。

  AI模拟声音引发所谓“深度伪造”担忧

  事实上,这还只是ChatGPT的基本应用。美媒记者展示了自己使用AI模拟自己的声音与父亲通话的过程,而这一过程也引发了所谓“深度伪造”的担忧。

  美国有线电视新闻网主持人 :这看起来像是个好玩的游戏,但AI技术甚至可以用来实现所谓的“深度伪造”,这可就不好玩了。因为我们可以通过这项技术复制任何人的外貌,生成数字面具。

  GPT-4横空出世 能力太强引发全球热议

  GPT-4是美国研发公司OpenAI为聊天机器人ChatGPT发布的第四代语言模型,它的横空出世被科技界认为是“未来已来”,引发了全球热议。它可以撰写文章、创建网页、逻辑推理,创作几乎任何内容。此外,它还能参加考试,它在美国律师资格考试中得分超过了90%的考生。

  英国天空台记者 汤姆·克拉克 :嗨,GPT-4,你有自主意识吗?

  GPT-4 :作为一个新语言模型,我不具备意识,我没有自我意识、主观情感或主观体验,我的反应是来自我所受训练的文本数据中已写定的模式。

  事实上,从ChatGPT横空出世至今,如何管控风险一直都是讨论的焦点。

  美国广播公司记者 :一方面AI潜力巨大,可以用来做有益的事情,另一方面,存在大量未知的情形,可能给社会带来非常坏的后果。你有多大的信心,你打造的东西不会造成这样的结果呢?

  美国OpenAI公司首席执行官 山姆·阿尔特曼 :我们会调整。

  美国广播公司记者 :你们会在负面事情发生的时候去调整吗?

  美国OpenAI公司首席执行官 山姆·阿尔特曼 :当前的系统依然弱小,现在就发布这套系统,趁着风险还很小,尽我们所能去了解情况,我认为这样就能避免出现更加危险的情形。

  不过,也有观点反对叫停研发,可以预见的是,人类与AI如何共处互进将成为未来全球关注的焦点。


产品图.jpg

赞 (0)
上一篇 2024年11月22日 19:47
下一篇 2024年11月22日 19:47