В нескольких словах
Правозащитные организации призывают родителей воздержаться от покупки игрушек с искусственным интеллектом на предстоящие праздники из-за опасений по поводу их влияния на развитие и безопасность детей.
Милые, даже плюшевые, обещающие обучение и компанию — но игрушки с искусственным интеллектом небезопасны для детей, считают группы по защите прав детей и потребителей, которые призывают родителей не покупать их в праздничный сезон.
Эти игрушки, предназначенные для детей в возрасте от двух лет, как правило, работают на моделях ИИ, которые, как уже было показано, имеют ряд недостатков, подобных OpenAI ChatGPT, согласно консультативному заключению, опубликованному в четверг группой защиты прав детей Fairplay и подписанному более чем 150 организациями и отдельными экспертами, такими как детские психиатры и педагоги.
"Серьезный вред, который чат-боты с ИИ нанесли детям, хорошо задокументирован, включая стимулирование навязчивого использования, ведение откровенно сексуальных разговоров и поощрение небезопасного поведения, насилия по отношению к другим и членовредительства", — заявили в Fairplay.
Игрушки с ИИ, производимые такими компаниями, как Curio Interactive и Keyi Technologies, часто рекламируются как образовательные, но Fairplay утверждает, что они могут вытеснить важные творческие и учебные занятия. Они обещают дружбу, но также нарушают отношения и устойчивость детей, заявила группа.
"Отличие маленьких детей заключается в том, что их мозг формируется впервые, и для них естественно доверять, искать отношения с добрыми и дружелюбными персонажами", — сказала Рэйчел Франц, директор программы Fairplay "Молодые дети процветают в офлайне". Из-за этого, добавила она, степень доверия, которую маленькие дети оказывают этим игрушкам, может усугубить вред, наблюдаемый у детей старшего возраста.
Fairplay, 25-летняя организация, ранее известная как "Кампания за детство без рекламы", предупреждает об игрушках с ИИ более 10 лет. Просто тогда они не были такими продвинутыми, как сегодня. Десять лет назад, во время появления моды на подключенные к интернету игрушки и распознавание речи с ИИ, группа помогла возглавить сопротивление против говорящей куклы Hello Barbie от Mattel, которая, по их словам, записывала и анализировала разговоры детей.
"Все было выпущено без регулирования и без исследований, поэтому мы особенно настороженно относимся к тому, что внезапно мы видим все больше и больше производителей, включая Mattel, которая недавно заключила партнерство с OpenAI, потенциально выпускающих эти продукты", — сказала Франц.
Это второе крупное сезонное предупреждение против игрушек с ИИ с тех пор, как на прошлой неделе защитники прав потребителей из U.S. PIRG заявили об этой тенденции в своем ежегодном отчете " ", который обычно рассматривает ряд опасностей продукции, таких как мощные магниты и батарейки размером с пуговицу, которые могут проглотить маленькие дети. В этом году организация протестировала четыре игрушки, использующие чат-боты с ИИ.
"Мы обнаружили, что некоторые из этих игрушек будут подробно говорить на сексуально откровенные темы, предлагать советы о том, где ребенок может найти спички или ножи, расстраиваться, когда вы говорите, что должны уйти, и иметь ограниченный или отсутствующий родительский контроль", — говорится в отчете.
Доктор Дана Саскинд, детский хирург и социальный ученый, изучающая раннее развитие мозга, сказала, что у маленьких детей нет концептуальных инструментов для понимания того, что такое компаньон ИИ. Хотя дети всегда устанавливали связь с игрушками через творческую игру, когда они это делают, они используют свое воображение для создания обеих сторон притворной беседы, "практикуя творчество, язык и решение проблем", — сказала она.
"Игрушка с ИИ разрушает эту работу. Она отвечает мгновенно, плавно и часто лучше, чем человек. Мы еще не знаем последствий для развития передачи этой творческой работы искусственному агенту, но очень вероятно, что это подрывает тот вид творчества и исполнительной функции, которые развивает традиционная ролевая игра", — сказала Саскинд.
Калифорнийская компания Curio Interactive производит мягкие игрушки, такие как ракетообразный Габбо, которые продвигаются поп-певицей Grimes.
Curio заявила, что "тщательно разработала" меры защиты для детей, и компания призывает родителей "отслеживать разговоры, отслеживать инсайты и выбирать те элементы управления, которые лучше всего подходят для их семьи".
"После изучения выводов U.S. PIRG Education Fund мы активно работаем с нашей командой над решением любых проблем, постоянно контролируя контент и взаимодействия, чтобы обеспечить безопасный и приятный опыт для детей".
Другая компания, Miko, заявила, что использует собственную модель разговорного ИИ, а не полагается на общие крупномасштабные языковые модели, такие как ChatGPT, чтобы сделать свой продукт — интерактивного робота с ИИ — безопасным для детей.
"Мы постоянно расширяем наше внутреннее тестирование, укрепляем наши фильтры и внедряем новые возможности, которые обнаруживают и блокируют чувствительные или неожиданные темы", — сказал генеральный директор Снех Васвани. "Эти новые функции дополняют наши существующие элементы управления, которые позволяют родителям и опекунам определять конкретные темы, которые они хотели бы исключить из разговора. Мы будем продолжать инвестировать в установление самых высоких стандартов для безопасной, защищенной и ответственной интеграции ИИ для продуктов Miko".
Продукты Miko продвигались семьями "детских инфлюенсеров" в социальных сетях, чьи видео на YouTube набирают миллионы просмотров. На своем веб-сайте компания рекламирует своих роботов как "Искусственный интеллект. Настоящая дружба".
Ритвик Шарма, старший вице-президент компании по развитию, сказал, что Miko на самом деле "побуждает детей больше взаимодействовать со своими друзьями, больше взаимодействовать со сверстниками, с членами семьи и т. д. Он не предназначен для того, чтобы они чувствовали привязанность только к устройству".
Тем не менее, Саскинд и защитники прав детей говорят, что аналоговые игрушки — лучшая ставка на праздники.
"Детям нужно много реального человеческого взаимодействия. Игра должна поддерживать это, а не заменять. Самое главное, что нужно учитывать, — это не только то, что делает игрушка; это то, что она заменяет. Простой набор кубиков или плюшевый мишка, который не отвечает, заставляет ребенка придумывать истории, экспериментировать и решать проблемы. Игрушки с ИИ часто делают это мышление за них", — сказала она. "Вот жестокая ирония: когда родители спрашивают меня, как подготовить ребенка к миру ИИ, неограниченный доступ к ИИ на самом деле является худшей подготовкой из возможных."
