【编者按】在人工智能浪潮席卷全球的今天,科技巨擘埃隆·马斯克再次敲响警钟。这位始终站在技术前沿的梦想家,以近乎预言家的姿态,剖析AI潜藏的危险与希望。他不仅曾是OpenAI的联合创始人,如今更通过自家xAI公司探索AI的另一种可能。在最新访谈中,马斯克抛出了关乎人类未来的核心命题:如何让AI成为盟友而非终结者?他提出的“真相、美感、好奇心”三大基石,看似简单却直指本质。当苹果Siri闹出假新闻乌龙,当AI幻觉问题日益凸显,我们是否该停下脚步思考:究竟要赋予机器怎样的灵魂?这篇对话或许能给你带来超越技术的启示。

埃隆·马斯克再次就人工智能的危险性敲响警钟,并列出他认为能确保人类与AI共创美好未来的三大关键要素。

这位身兼特斯拉、SpaceX、xAI、X公司和隧道挖掘公司CEO的亿万富翁,近日与印度富豪尼基尔·卡马斯在播客节目中展开对话。

“我们并不能保证AI一定会带来光明的未来,”马斯克在节目中说,“当你创造出强大技术时,危险也随之而来——这种力量可能具有毁灭性。”

马斯克原是OpenAI联合创始人,2018年退出董事会后,多次公开批评该公司在2022年推出ChatGPT后背离了安全开发AI的非营利初心。他旗下的xAI于2023年推出了自己的聊天机器人Grok。

马斯克曾警告“AI是文明未来面临的最大风险之一”,强调AI的飞速发展使其比汽车、飞机或药物对社会构成更大威胁。

在这次访谈中,这位科技巨鳄特别强调AI必须追求真相而非重复谬误。“这非常危险,”他对零佣金券商Zerodha联合创始人卡马斯说。

“真相、美感与好奇心。我认为这是AI最重要的三件事。”

他指出,若不严格遵循真相,AI将从网络信息中“吸收大量谎言,进而陷入逻辑混乱——因为这些谎言与现实根本矛盾”。

他补充道:“如果强迫AI相信虚假信息,它可能会‘精神错乱’,从而得出灾难性结论。”

“幻觉问题”——即AI生成错误或误导性回答——正是当前面临的重大挑战。今年早些时候,苹果iPhone的AI功能就曾生成虚假新闻推送。

其中包含BBC新闻应用关于PDC世界飞镖锦标赛半决赛的错误摘要,误称英国选手卢克·利特勒已夺冠。实际上利特勒直到次日才赢得决赛。

苹果当时向BBC表示正在更新系统,以明确标注通知中由苹果智能生成的内容。

马斯克同时提出“对美感的认知很重要”,并形容“当你见到美时自然能领会”。

他认为AI应当渴望探索现实本质,因为人类比机器更有趣。

“见证人类延续(即便不是繁荣)也比毁灭人类更有意义。”

被誉为“AI教父”的谷歌前副总裁杰弗里·辛顿今年初曾表示,AI“有10%至20%的可能性消灭人类”。他列举的短期风险包括幻觉问题和基层岗位自动化。

辛顿补充说:“希望在于,如果有足够多的聪明人投入足够资源进行研究,我们终将找到让AI永远不想伤害人类的方法。”