8
В материалах к IPO компания подтвердила, что даже её собственные меры предосторожности не могут гарантировать защиту от разрушительных последствий развития искусственного интеллекта
Anthropic внесла предупреждение о потенциальных катастрофических последствиях развития искусственного интеллекта в свои документы для IPO. Компания отметила, что достаточно мощные системы ИИ могут нести «катастрофические или экзистенциальные угрозы для общества», если их создание и использование не будут осуществляться ответственно. При этом Anthropic не может подтвердить, что её собственные меры безопасности обеспечат предотвращение таких последствий.
В проспекте компания уточняет, что с увеличением возможностей ИИ возрастает и потенциальная тяжесть ущерба от неправильно настроенных или злонамеренно использованных моделей. Anthropic принимает решения о безопасности своих систем, однако признает отсутствие гарантий успеха. Компания также выражает сомнение, что другие участники рынка будут применять аналогичные меры защиты.
Это предупреждение возникло на фоне подготовки Anthropic к IPO. По мнению авторов публикации, компания может претендовать на оценку до $2 трлн. В то же время в первом полугодии 2026 года она, согласно приведённым данным, понесла убытки в размере $80 млрд. В документах также упоминаются иные риски для бизнеса: нехватка электроэнергии и инфраструктуры для дата-центров, сопротивление их строительству и возможные юридические претензии, связанные с использованием продуктов компании.
Ранее Anthropic призывала к замедлению разработки наиболее мощных ИИ-моделей на уровне всей отрасли. Компания рассматривает такой подход как способ снижения рисков, связанных с технологией. Однако в проспекте она одновременно предупреждает инвесторов, что замедление развития рынка её моделей, платформы и приложений или сокращение спроса могут привести к замедлению роста бизнеса и ухудшению финансовых показателей.
Таким образом, Anthropic предстоит донести до инвесторов две стороны своей стратегии: почему её модели могут быть коммерчески востребованы и как компания планирует контролировать риски, которые сама считает потенциально катастрофическими. В документах она прямо признаёт, что существующие меры безопасности не обеспечивают полной гарантии.
Источник