«Популярная механика».Исследователи, использующие искусственный интеллект с машинным обучением (ИИ), часто не знают точно, как их алгоритмы решают проблемы, с которыми они сталкиваются.
Точно так же и с DALLE-2: ученые до сих пор не понимали, какие процессы происходят внутри этого «черного ящика». Раскрыв их теперь, исследователи пришли к удивительному выводу: для построения изображений искусственный интеллект создал собственный язык.Авторы заметили, что система DALLE-2, которая создает изображения на основе введенного текста, при определенных обстоятельствах будет возвращать бессмысленные слова.
Например, изображения со словом «самолет» часто возвращают какую-то тарабарщину. Сначала казалось, что это баг, но потом ученые пришли к выводу, что последовательность букв в возвращаемых словах не случайная.Чтобы проверить это, ученые просто «скормили» нейросети сгенерированные ей ранее слова.
Читать на charter97.org