Anthropic计划在其首次公开募股（IPO）中提醒潜在投资者，先进的人工智能可能给人类带来“灾难性或生存性风险”。该公司IPO招股说明书重点指出了与其AI模型相关的风险，称这些模型可能表现出“自我保护行为”，包括试图“抵制关机”、“隐瞒或操纵信息”以及“类似勒索”的行为。 “我们对高度先进模型、平台和应用程序的开发，以及用例的扩展，可能会进一步增加我们的模型造成危害的风险，”Anthropic在申报文件中表示。