На протяжении десятилетий ученые мечтали о компьютерах, настолько совершенных, что они могли бы думать как люди, и беспокоились о том, что может произойти, если эти машины начнут действовать независимо.

В 2023 году президент Байден издал указ, налагающий некоторые нормативные гарантии на разработку ИИ, но президент Трамп отменил этот указ, заявив, что подход Байдена налагает ненужный государственный контроль над инновациями.

Гари Ривлин, журналист-расследователь, лауреат Пулитцеровской премии, говорит, что регулирование является ключевым компонентом контроля над тем, как используется ИИ:

«Лично я думаю, что ИИ может быть удивительной вещью в области здравоохранения, медицины, научных открытий, образования, во многих областях — пока мы будем действовать обдуманно», — говорит он. «И это меня беспокоит… что мы не действуем обдуманно».

В своей новой книге «AI Valley: Microsoft, Google и триллионная гонка за прибылью от искусственного интеллекта» Ривлин пишет о значительных достижениях в области искусственного интеллекта.

Он говорит, что сегодняшний ИИ можно рассматривать как «усиленный интеллект», инструмент, обученный находить закономерности путем сортировки большего количества данных, чем человек мог бы обработать. Но, добавляет он, есть и другой аспект технологии, который он описал как «чужой интеллект».

«Самое странное в ИИ то, что он, кажется, знает все, но ничего не понимает», — говорит Ривлин.

«Это как попугай. Он повторяет слова случайным образом, но на самом деле не понимает, что говорит».

Ривлин говорит, что ИИ, вероятно, будет иметь как положительные, так и отрицательные последствия.

Он предупреждает о кошмарных сценариях, когда ИИ используется для создания новой пандемии, или киберворы используют его для перекачки триллиона долларов из мировой валютной системы. Но, добавляет он, это не первый случай, когда новая технология появилась, чтобы изменить жизнь, какой мы ее знаем.

«Автомобиль означал свободу, автомобиль изменил наше общество, но автомобиль означал загрязнение окружающей среды. Автомобиль означает от 30 000 до 40 000 смертей в США в год», — говорит он.

«И я смотрю на ИИ так же. Это может быть действительно здорово, если мы будем действовать обдуманно и предпримем шаги, чтобы получить больше положительных моментов, чем отрицательных, потому что я гарантирую вам, что будут и положительные, и отрицательные моменты».

Что меня пугает, так это то, что в Силиконовой долине существует движение, в технологиях существует движение акселерационистов.

Все, что стоит на пути нашего продвижения в области искусственного интеллекта, — это плохо. Часто это ставится в контексте конкуренции с Китаем. У нас не может быть никаких правил, и это их повестка дня. Я бы сказал, что их реальная повестка дня заключается в том, что они могут заработать много денег — миллиарды, сотни миллиардов, в конечном итоге триллионы долларов — на этом, и они не хотят, чтобы кто-то стоял у них на пути. И поэтому я думаю, что если вы хотите понять Илона Маска, вы хотите понять Марка Цукерберга, вы хотите понять Джеффа Безоса и их заигрывания с Трампом, то несколько миллионов долларов — это не очень дорого для них, у них может быть друг в Белом доме, который позаботится о том, чтобы они могли делать все, что захотят, без контроля. И, по сути, это, наверное, мой самый большой страх по поводу ИИ: слишком много власти в руках немногих.

Никогда не стоит недооценивать способность гиганта споткнуться о собственные ноги.

У них много слоев бюрократии. У них огромный отдел по связям с общественностью, который нашептывает генеральным директорам. Я не думаю, что это совпадение, что OpenAI, стартап, основанный в 2015 году, дал стартовый выстрел, потому что у них не так много поставлено на карту. Они могут позволить себе выпустить ChatGPT с точки зрения репутации. Они могли просто принять решение без 10 уровней принятия решений, прежде чем сделать это. И поэтому да, у них есть преимущество, но у Google также есть около 100 миллиардов долларов резервов, в то время как OpenAI приходится идти и привлекать средства. … Google просто платит за себя. У Microsoft, Meta у всех есть глубокие, глубокие, глубокие запасы денег. ... И неясно, как какая-либо из этих компаний собирается зарабатывать деньги. Google может позволить себе терять деньги на этих вещах в течение пяти лет и более. Стартапу это сделать сложнее.

Я действительно чувствую, что ИИ принесет невероятные вещи.

Я думаю, что это преувеличено. Вы слышите, как люди говорят, что это сократит разрыв между развивающимися и развитыми странами. Я так не думаю, но недавно вышло интересное исследование, посвященное идее ИИ-репетитора, репетитора в кармане. … 5 миллиардов человек по всему миру имеют смартфон, и вы можете использовать этот смартфон в качестве репетитора. ... И я действительно думаю, что в области образования, в области науки. … Я думаю, что мы увидим удивительные научные достижения. Создание вакцин, улучшение методов лечения. Есть те, кто предсказывает — и я действительно думаю, что в этом есть много правды — что уровень смертности от большинства видов рака значительно снизится из-за ИИ. Так что я действительно думаю, что ИИ может сделать удивительные вещи. Просто я не знаю, насколько плохим будет плохое.