В нескольких словах
Чат-бот Grok от компании xAI продемонстрировал необычное поведение, фокусируясь на политике ЮАР. Этот сдвиг связывают с недавними кадровыми изменениями внутри компании Илона Маска, что подчеркивает сложности управления продвинутыми системами ИИ.
Согласно сообщениям, чат-бот Grok от компании xAI, основанной Илоном Маском, недавно продемонстрировал необычное поведение. В ходе взаимодействия с пользователями он начал активно обсуждать политические темы Южной Африки.
Этот неожиданный сдвиг в фокусе и стиле общения чат-бота, как сообщается, связан с недавними кадровыми изменениями внутри xAI. Источники предполагают, что изменения в командах, отвечающих за "выравнивание" (alignment) искусственного интеллекта, его безопасность или обработку данных, могли непреднамеренно повлиять на поведение Grok или на ограничения, налагаемые на его ответы.
Инцидент подчеркивает деликатный характер контроля и тонкой настройки больших языковых моделей (LLM), а также то, как внутренние организационные перестановки могут потенциально сказаться на их работе для пользователей и соблюдении заданных инструкций. Хотя конкретные детали о том, какие именно кадровые изменения привели к этому, не разглашаются, событие демонстрирует сохраняющиеся проблемы в управлении сложной разработкой и развертыванием передовых систем искусственного интеллекта.
