漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品

据《南华早报》报道,腾讯首席AI科学家姚顺宇(Yao Shunyu)近日就AI与生物学融合的前景发出警告。他指出,人工智能模型很快将强大到足以“掌握生物学”,这将为药物研发、疾病诊断和生命科学基础研究带来巨大推动,但同时也会使AI具备“造成伤害”的可能。姚顺宇认为,一旦AI系统能够理解并设计生物分子、蛋白质或病原体相关结构,其滥用门槛可能显著降低,因此生物安全风险需要被纳入AI治理框架。他还特别提到,Anthropic在高风险生物能力领域主张封闭模型策略,给出了“强有力的论据”。这一观点凸显出前沿AI公司在开放与安全之间的权衡正变得越来越紧迫。

核心要点

  • 腾讯首席AI科学家姚顺宇警告,AI很快将掌握生物学能力,带来显著收益与安全风险
  • 姚顺宇指出AI可能具备“造成伤害”的能力,生物安全风险需纳入治理框架
  • Anthropic在高风险生物领域主张封闭模型,姚顺宇认为其论据强有力

Read more >