Различные системы искусственного интеллекта уже способны создавать вещи, которые выглядят для людей совершенно чужеродными. Более того, в истории уже случались случаи, когда системы искусственного интеллекта изобретали свой язык, один раз это настолько встревожило исследователей, что они даже предпочли обнулить систему, прервав цепочку развития интеллекта, пошедшую в непонятном для них направлении. А на этот раз отличилась система DALL-E 2, созданная специалистами компании Google, которая изначально предназначается для генерации изображений по текстовому словесному описанию.

Отметим, что нейронные сети системы DALL-E 2 уже были предварительно натренированы на огромном количестве изображений, сопровождаемых подробным текстовым описанием. Выстроенные нейронные связи формируют своего рода базу данных, в которой фигурируют взаимосвязи между символами, словами и элементами изображений.

"Чудеса" с системой DALL-E 2 были замечены, когда ей была поставлена задача, заключавшаяся в самостоятельной генерации текстового описания и соответствующего ему изображения. Оказалось, что система в своих недрах оперирует своим собственным непонятным языком со своими собственными словами для подавляющего большинства имен существительных.

Исследователи считают, что основной причиной произошедшего является то, что описание изображений, на которых тренировалась система, были представлены на разных языках. Это вынудило систему привести эти описания к какому-то "среднему знаменателю" и сопоставить полученный результат с элементами изображений. Принципы, использованные системой для создания "среднего знаменателя", пока еще являются загадкой для ученых, как и является загадкой своего рода новый язык, состоящий из усредненных данных.

В факте создания системой искусственного интеллекта своего языка исследователи видят потенциальную опасность. Представьте себе, если этот язык будет расшифрован человеком, имеющим не очень хорошие цели, тогда этот человек сможет составить на этом языке задание для искусственного интеллекта, который, выполняя его, начнет атаковать Интернет или другие критические элементы инфраструктуры. А все остальные люди даже не смогут понять, что именно происходит и по какой причине.

Именно поэтому сейчас исследователи держат систему DALL-E 2 в изоляции от остального мира, наблюдая за происходящими в ней процессами и затем, к чему приведет ее дальнейшее развитие. Однако, здесь стоит упомянуть, что в мире имеется еще один вариант подобной системы, DALL-E Mini, общедоступной, но имеющей гораздо более ограниченные возможности по сравнению с системой DALL-E 2.



Ключевые слова:
Искусственный, Интеллект, Система, Google, DALL-E, Язык, Описание, Изображение

Первоисточник

Другие новости по теме:

Сотрудники Facebook "убили" искусственный интеллект, изобретший свой собственный язык

Новая система искусственного интеллекта способна нарисовать объекты, пользуясь лишь их подробным текстовым описанием

Новая самообучаемая система компании Google учится создавать другие самообучаемые системы

Искусственный интеллект Google Translate создал свой собственный язык для осуществления переводов

Church - новый язык, сделающий новые системы искусственного интеллекта более интеллектуальными.

Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.