人工智能领域权威约书亚 · 本吉奥近期发出警告，称人类正在创造可能比自身更强大的 AI 怪物。这位被誉为 "AI 教父 " 的加拿大计算机科学家强调，智能一旦赋予权力，无论是何种形态的控制者都将变得极为强大，且技术往往被追求更多权力的个体或组织所利用。他特别指出，需警惕 AI 技术的潜在危险，尤其是在其可能以危险方式集中权力时。

本吉奥的开创性工作为现代 AI 技术奠定了基础，包括 OpenAI 的 ChatGPT 和 Anthropic 的 Claude 等模型均受其影响。尽管他是 AI 技术的先驱，但本吉奥对 AI 领域的发展持谨慎态度，尤其是担忧其落入错误之手可能引发的严重后果，如被恐怖分子或意图摧毁民主的国家机构利用。

在评估当前 AI 巨头时，本吉奥认为 Anthropic 在道德层面表现最佳，因其致力于避免灾难性后果，并提出了安全政策。然而，他也指出所有 AI 巨头都面临经济压力和竞争，这可能导致公共安全成为次要目标。

对于英伟达等 AI 相关股票的大幅上涨，本吉奥认为这反映了 AI 技术长期发展的乐观前景，但也提醒投资者需谨慎行事，以防技术失控带来的系统性风险。

此外，他还强调了 AI 芯片在这场技术竞赛中的重要性，认为高端 AI 芯片将成为未来的战略资源，并呼吁增加投资以实现供应链多样化。

对于 Salesforce 计划到 2026 年推出 10 亿自主代理的雄心，本吉奥表示既期待又担忧。他认可自主性的经济和商业价值，但也担忧过快推进可能带来的风险，呼吁政府和行业在技术准备上更加谨慎。

（综合财中社内容）