AI教父警告：创造超人类技术需谨慎！_linux资讯

AI教父警告：创造超人类技术需谨慎！

创始人

2024-10-14 14:31:33

0次

人工智能领域权威约书亚·本吉奥近期发出警告，称人类正在创造可能比自身更强大的AI怪物。这位被誉为“AI教父”的加拿大计算机科学家强调，智能一旦赋予权力，无论是何种形态的控制者都将变得极为强大，且技术往往被追求更多权力的个体或组织所利用。他特别指出，需警惕AI技术的潜在危险，尤其是在其可能以危险方式集中权力时。

本吉奥的开创性工作为现代AI技术奠定了基础，包括OpenAI的ChatGPT和Anthropic的Claude等模型均受其影响。尽管他是AI技术的先驱，但本吉奥对AI领域的发展持谨慎态度，尤其是担忧其落入错误之手可能引发的严重后果，如被恐怖分子或意图摧毁民主的国家机构利用。

在评估当前AI巨头时，本吉奥认为Anthropic在道德层面表现最佳，因其致力于避免灾难性后果，并提出了安全政策。然而，他也指出所有AI巨头都面临经济压力和竞争，这可能导致公共安全成为次要目标。

对于英伟达等AI相关股票的大幅上涨，本吉奥认为这反映了AI技术长期发展的乐观前景，但也提醒投资者需谨慎行事，以防技术失控带来的系统性风险。

此外，他还强调了AI芯片在这场技术竞赛中的重要性，认为高端AI芯片将成为未来的战略资源，并呼吁增加投资以实现供应链多样化。

对于Salesforce计划到2026年推出10亿自主代理的雄心，本吉奥表示既期待又担忧。他认可自主性的经济和商业价值，但也担忧过快推进可能带来的风险，呼吁政府和行业在技术准备上更加谨慎。

（综合财中社内容）

经济教父技术权力警告巨头人类领域约书亚·本吉奥需谨慎本吉奥英伟达财中社

上一篇：开源证券给予万科A增持评级，公司信息更新报告：行业排名稳居前三，融资端获支持力度充分

下一篇：新机皇登基！vivo X200系列影像、续航、AI全面升级

AI教父警告：创造超人类技术需谨慎！

相关内容

热门资讯