8
Компания планирует использовать ИИ для управления роботами, которые будут заниматься производством оборудования и созданием вычислительной инфраструктуры с целью значительного снижения затрат на вычисления
OpenAI намерена сосредоточить свою робототехническую программу на строительстве дата-центров. Сэм Альтман упомянул в подкасте Cheeky Pint, который ведет сооснователь Stripe Джон Коллисон, что дата-центры, способные самостоятельно воспроизводиться с помощью роботов под управлением ИИ, уже «в пределах досягаемости». По словам Альтмана, цель заключается в получении значительных объемов вычислительных мощностей по существенно более низким ценам.
Он описал процесс автоматизации, в котором ИИ управляет роботами на производстве микросхем, турбин и солнечных панелей, а затем использует их для возведения новых дата-центров. Альтман считает, что такой подход поможет постепенно решить проблему нехватки вычислительной инфраструктуры. OpenAI также разрабатывает собственный чип, который, по словам руководителя, демонстрирует хорошие результаты по производительности ИИ на единицу потребляемой электроэнергии.
Альтман считает, что рынок пока не справляется с резким ростом потребности в памяти и других компонентах. Производители осторожничают с расширением мощностей, так как помнят случаи, когда строительство слишком большого числа заводов приводило к значительным финансовым потерям. В качестве примера стоимости инфраструктуры он привел $70 млрд на строительство и эксплуатацию одного гигаватта вычислительных мощностей на протяжении 5 лет. Сумма в $20 млрд за аналогичный объем представляется ему значительно более привлекательной.
В ходе беседы также рассмотрели риски использования ИИ в области кибербезопасности. Альтман подчеркнул, что модели все лучше выявляют уязвимости в программном обеспечении, в то время как специалисты еще не проверили весь существующий код с их помощью. Он ожидает, что по мере расширения таких проверок будут выявляться более серьезные ошибки. Как отдельную угрозу он упомянул возможность обнаружения уязвимостей на уровне аппаратного обеспечения.
Обсуждая защиту самих ИИ-моделей, Альтман отметил, что изолированные среды выполнения — песочницы — эффективны лишь до определенного уровня возможностей модели. Мониторинг ее работы может обеспечить дополнительную защиту, но в конечном итоге безопасность будет зависеть от того, насколько надежно поведение системы соответствует намерениям разработчиков. По словам Альтмана, отрасль пока не может быть уверена, что существующие методы безопасности сохранят свою эффективность по мере развития ИИ.
Альтман также выразил предпочтение системам, состоящим из множества взаимодействующих ИИ-агентов, вместо одной чрезвычайно мощной модели. Он считает, что группы моделей с возможностями, немного превышающими человеческие, могут оказаться более предпочтительными, чем единая система с экстремально высоким уровнем интеллекта, хотя у таких групп также имеются риски, связанные с согласованностью поведения. При этом он допустил, что для отдельных моделей в будущем может потребоваться установление ограничений на уровень возможностей.
Обсуждая развитие ИИ для научных исследований, Альтман заявил, что методы, которые помогли моделям OpenAI достичь успехов в математике, вероятно, смогут быть применены и к исследовательской деятельности. Он рассказал, что одна из математических задач потребовала вычислительных ресурсов стоимостью около $10 млн, а общие расходы на математические исследования компании достигали сотен миллионов долларов с учетом других работ. По его словам, потенциал технологии велик, но индустрия пока не смогла убедительно донести до общества, почему ожидаемая выгода оправдывает риски, включая массовую потерю рабочих мест и усиление слежки.
Источник