В нескольких словах
Администрация Трампа издала указ, требующий от технологических компаний, таких как Google и Microsoft, доказать, что их ИИ-продукты свободны от "прогрессивной" (woke) идеологии, чтобы получать госконтракты. Этот шаг, направленный на борьбу с предвзятостью в ИИ, вызвал споры и сравнения с методами цензуры в Китае, поставив техгигантов в сложное положение.
Технологические компании, стремящиеся продавать свои технологии искусственного интеллекта федеральному правительству США, столкнулись с новым регуляторным барьером: необходимостью доказывать, что их чат-боты не являются "прогрессивными" (woke).
Масштабный план президента Дональда Трампа по противодействию Китаю в достижении "глобального доминирования" в сфере ИИ обещает сократить регулирование и внедрить американские ценности в инструменты искусственного интеллекта. Однако подписанный указ о "предотвращении woke ИИ в федеральном правительстве" имитирует государственный подход Китая к формированию поведения ИИ-систем в соответствии с государственной идеологией.
Ведущие поставщики языковых моделей ИИ, такие как Gemini от Google и Copilot от Microsoft, пока хранят молчание относительно этой директивы. Хотя технологическая индустрия в целом приветствовала более широкие планы Трампа в области ИИ, данный указ втягивает ее в культурную войну.
Этот шаг заставляет технологическую отрасль отказаться от многолетних усилий по борьбе с предвзятостью, которая, как показывают исследования, встроена в системы ИИ. "Во-первых, не существует такого понятия, как woke ИИ, — заявила правозащитница Алехандра Монтойя-Бойер. — Есть технология ИИ, которая дискриминирует, и есть технология ИИ, которая действительно работает для всех людей".
Формирование поведения больших языковых моделей является сложной задачей, поскольку они обучаются на огромных массивах данных из интернета, отражая все существующие в обществе предубеждения. "Технологическим компаниям будет крайне сложно соответствовать этому требованию", — считает Джим Секрето, бывший чиновник администрации Байдена.
Указ Трампа нацелен на усилия компаний по внедрению в ИИ "разрушительной" идеологии разнообразия, равенства и инклюзивности (DEI), включая "теорию критической расы, трансгендеризм и системный расизм". Критики, включая Секрето, сравнивают этот подход с методами Китая, который "использует мощь государства для искоренения нежелательных точек зрения". В отличие от прямой цензуры в Китае, указ Трампа использует федеральные контракты в качестве рычага давления, стимулируя компании к самоцензуре.
Призыв к созданию "ищущего истину" ИИ перекликается с риторикой Илона Маска и его чат-бота Grok. Однако некоторые эксперты, например, бывший главный технолог Федеральной торговой комиссии Нил Чилсон, считают, что указ несложно выполнить. "Он даже не запрещает идеологическую повестку, — говорит Чилсон, — а лишь требует раскрытия информации о любых преднамеренных методах воздействия на модель. Это довольно мягкое требование".
На данный момент технологические гиганты реагируют сдержанно. OpenAI ожидает уточнений, а Microsoft отказалась от комментариев. Идеи, легшие в основу указа, продвигались в течение года влиятельными венчурными капиталистами из Кремниевой долины, которые были недовольны инцидентом с Google Gemini в феврале 2024 года. Тогда ИИ-генератор изображений создал исторически неточные картинки, например, темнокожих Отцов-основателей США, что было названо результатом чрезмерной компенсации системных предубеждений.
