Anthropic披露Claude危險使用案例 聲稱有伊朗帳戶用於威脅美軍目標

據美媒報道，美國AI公司Anthropic週四表示，已阻止一些科學家使用其Claude人工智能模型用於“可能支持生物武器開發”。這一消息披露於一份詳儘的報告中。報告列舉了五個案例，其中一個案例涉及研究如何增強某種蚊媒疾病的傳播能力。Anthropic表示，很難確切斷定這些案例是否與製造生物武器的計劃有關，但指出公司已阻止了相關活動，並將相關信息通報給了有關部門及行業閤作夥伴。報告還披露了涉及監控、詐騙、常規武器研發及宣傳活動的其他行為。Anthropic聲稱，已識別並封禁了利用Claude開展旨在引導輿論的“影響力行動”的帳戶，其中包括三個與伊朗有關聯的帳戶。Anthropic透露，其中一個與伊朗有關聯的威脅行為者利用Claude製定了針對該地區美軍海軍力量的攻擊目標建議。