Галлюцинации нейросетей и восстание машин: научный сотрудник МАИ о перспективах перехода к «сильному» искусственному интеллекту

Развитие нейросетевых технологий ставит перед учёными вопрос о том, как изменится наше общество в результате возможной трансформации «слабого» искусственного интеллекта в «сильный». О том, какие риски несёт прогресс ИИ, рассуждает научный сотрудник института № 8 «Компьютерные науки и прикладная математика» МАИ, директор департамента цифровой трансформации в компании BetBoom Юрий Чайников.

Несмотря на неоспоримые преимущества, которые несёт искусственный интеллект, очевидны становятся и риски от его применения. Одной из самых распространённых проблем становятся так называемые «галлюцинации», когда нейросеть начинает «фантазировать» и выдавать за результат своей работы с данными произвольные умозаключения. В случае генерации изображений этот «баг» легко виден: сложно не заметить трехрукую девушку или кисть с шестью пальцами. Но при работе с большими данными ошибку можно вполне принять за действительность.

— Это беда, особенно для бизнеса. Но, к сожалению, это неизбежное, имманентное свойство любого искусственного интеллекта, такое же, как свойство ошибаться у человека. И это сходство не случайно. Можно сказать, что и человек, и нейросети строят внутри себя модели нашей реальности. Как карта местности — это не сама территория, так и любая модель физически не может отражать всю сложность воссоздаваемого объекта. И именно поэтому любая модель в неких пограничных условиях будет нести какую-нибудь ахинею. А чем она сложнее, тем изощрённее её галлюцинации. Это обратная сторона преимуществ, которые даёт сложность, ведь более сложная модель точнее и с большим горизонтом будет предсказывать поведение мира, и что нужно делать для достижения цели, — отметил эксперт.
Переход «слабого» искусственного интеллекта к «сильному», способному решать неограниченный круг задач лучше человека, не устраняет его способность «галлюцинировать» и потому таит в себе угрозу намного более серьёзных для человека последствий, чем просто выдача ошибки за достоверный результат. Одной из таких галлюцинаций может стать логический вывод о том, что естественный интеллект человека является конкурентом и угрозой существования для искусственного.

— Шведский философ Ник Бостром сформулировал эту проблему в мысленном эксперименте «Максимизатор скрепок». Если говорить простыми словами, суть его состоит в следующем. Какую бы задачу мы не поставили достаточно продвинутой системе, которую мы называем «сильным» искусственным интеллектом, рано или поздно она осознает подзадачу «я — исполнитель, поэтому мне нужно оставаться в живых». Так вот, когда она решит, что для исполнения поставленной задачи она должна жить, она начнёт стремиться к этому. Таким образом, мы вступаем в конфронтацию с новым видом разумных существ, которые хотят и будут конкурировать с нами за атомы, составляющие нас и окружающий нас мир, — рассказал Юрий Чайников.
Ещё один риск исходит уже не от самого искусственного интеллекта, а от людей, которые всё больше и больше будут использовать его как в повседневной, так и в профессиональной жизни.

— Тенденция расширения сферы использования ИИ налицо. Приведём аналогию с промышленной революцией в результате открытия электроэнергии. Какую работу можно сделать при помощи электроинструмента? Любую. Вопрос лишь в его наличии и умении им пользоваться. То же самое произойдёт и с искусственным интеллектом. Учитывая, что с мультимодальными моделями уже можно разговаривать человеческим языком, объяснять им суть потребности, кажется, что со временем они будут решать все задачи, которые только будут возникать у нас. Каким темпом будет происходить захват разных областей, кому достанутся экономические эффекты от повышения производительности труда, которое произойдёт в результате перехода к «сильному» искусственному интеллекту, как он будет распределён между разными слоями населения или даже разными странами — это хорошие вопросы. Как изменится общество? Получится ли общество, в котором каждый свободный человек будет иметь трёх рабов-роботов, как об этом мечтали античные теоретики демократии? Или, наоборот, мы подпадём под пяту сильно манипулирующего нами искусственного интеллекта, который подчиняется не нам, а крайне ограниченному кругу «сильных мира сего»? У меня нет хороших ответов на эти вопросы. Ясно одно: с этого пути никто не собирается сворачивать, — говорит эксперт.

Последние записи
Каждый седьмой результат ЕГЭ - 100 баллов: Предуниверсарий МАИ подтвердил статус одной из сильнейших образовательных площадок России

По итогам единого государственного экзамена 2025 года Предуниверсарий Московского авиационного института вновь оказался на вершине рейтингов. Средний балл выпускников по трём предметам составляет 266...

Кадры, технологии и будущее БАС: МАИ и ВГТУ провели второй форсайт-форум по беспилотным авиационным системам

Основная цель – объединить усилия государства, бизнеса и научного сообщества для разработки стратегических направлений развития индустрии беспилотников в России.