В петле обратной связи: без новых идей нейросеть ведет к культурному застою
Что будет, когда у генеративного ИИ закончится контент для обучения?
Еще один камень в огород тех, кто уверовал в исключительность искусственного интеллекта: новое исследование международной группы ученых, опубликованное в журнале Patterns, доказывает, что генеративный ИИ на самом деле очень быстро впадает в творческий кризис и после переработки тонны контента начинает создавать все более однотипные произведения.
Дело в том, что для обучения нейросетей и последующей генерации требуется много авторского контента, созданного человеком. Ввиду быстрого процесса потребления таких материалов машиной, скоро все, нарисованное живыми художниками, закончится. А дальше искусственному интеллекту придется полагаться на собственные синтетические данные. Однако, как говорят специалисты, когда нейросети начинают использовать данные, сгенерированные своими же коллегами, их творчество становится искаженным.
В чем заключалась суть эксперимента: команда предложила искусственному интеллекту создать серию изображений по конкретному текстовому промту. При этом нейросеть была отрезана от интернета и могла пользоваться лишь системой преобразования картинок в текст, исходя исключительно из собственных описаний.
«Наше исследование показывает, что даже без дополнительного обучения автономные циклы обратной связи ИИ естественным образом смещаются в сторону общих аттракторов, – говорят исследователи. – Сотрудничество человека и ИИ, а не полностью автономное создание, скорее всего, может быть необходимым условием для сохранения разнообразия и неожиданности в контексте творчества, которое, давайте согласимся, сегодня все больше генерируется машинами».
По словам профессора компьютерных наук Ратгерского университета Ахмеда Эльгаммала, подобные исследования могут трактоваться как вероятность будущего культурного застоя. Ситуация и действительно тревожная, поскольку уже сейчас в интернете волна мусора, созданного нейросетями, затмевает рукотворный контент.
«Риск заключается не только в том, что будущие модели будут обучаться на контенте, созданном ИИ, но и в том, что культура, опосредованная искусственным интеллектом, уже фильтруется таким образом, что предпочтение отдается знакомому, описанному и традиционному», – пишет исследователь в эссе для издания TheConversation.Что уж говорить, если на популярных видеохостингах, к примеру, нейросетевой контент ранжируется алгоритмами порой чаще, а созданные людьми видеоролики уходят вниз ленты.
Пока остается неясным, в какой степени появление генеративного ИИ повлияет на существующие творческие направления – от фотографии до театра. Тем не менее это серьезная тенденция, о которой стоит говорить в публичном поле. С точки зрения Эльгаммала, чтобы остановить процесс культурной стагнации, нужно перестраивать ИИ-модели и стимулировать их отклоняться от собственных норм.
«Если генеративный искусственный интеллект призван обогащать культуру, а не нивелировать ее, то, на мой взгляд, системы должны быть устроены таким образом, чтобы не допускать статистически усредненных результатов. Исследование ясно показывает: без этих мер генеративный ИИ будет продолжать создавать посредственный и неинтересный контент», – резюмирует он.