ИИ в литературе и мышлении: соперничество или кооперация?
Обсуждение острых проблем современности: как развитие нейросетей влияет на прозу и поэзию, стоит ли ждать от искусственного интеллекта (ИИ) блестящих мистификаций и незабываемых перформансов, есть ли повод для беспокойства, какова роль ИИ в культурном просвещении новых поколений, а также способна ли эта сущность творчески мыслить и сможет ли она стать в этом равной человеку — состоялось на заседаниях круглых столов в рамках ярмарки интеллектуальной литературы non/fictio№26.
«В ОЖИДАНИИ ГОДО»
Искусственный интеллект — соратник или конкурент? Технический инструмент или культурный феномен? Окажет ли он существенное влияние на будущее литературы, или предельная точка развития ИИ уже достигнута? Тему обсудили на круглом столе «В ожидании Годо: писатель и искусственный интеллект. Угрозы или возможности?»
ИИ развивается очень быстро, он уже с нами, в отличие от Годо, который по замыслу автора пьесы так и не пришёл, отметил Бойко ЛАМБОВСКИ, писатель (Болгария):
— Стоит ли этого бояться? Нет. Дело в том, что творчество продиктовано ощущением боли, чувств. Ни Толстой, ни Достоевский не писали от избытка счастья. А робот боли не чувствует. Он может имитировать всё, что мы уже создали, но настоящих эмоций в его произведениях нет. Правда, в дальнейшем он научится хорошо подражать человеческим чувствам, а мы, люди, станем, наверное, имитировать бесчувственность, но это далёкое будущее.
Елена СТЕЛЬМАХ, писатель, переводчик, публицист (Белоруссия), продолжила:
— Я была очень удивлена, когда узнала, что можно создать роман за три месяца, как коллеги это делают при помощи нейросети. У меня имелась пьеса, которую я посчитала хорошей в смысле идеи, но было мало текста, поэтому решила посоветоваться с ИИ и получила красивый, приятный «кекс», но в нём не хватало «изюминки». Конечно, мне удалось это исправить, но вопрос, как на это отреагируют читатели.
Более подробно на проблеме остановилась Елена КОЛМАНОВСКАЯ, сооснователь и экс-главный редактор «Яндекса»:
— Я к математике и вычислительным идеям, которые стоят за нейросетями, отношусь с большим уважением, но во всём остальном — довольно скептически. Что за последние два года изменилось в связи с ChatGPT? Скажу так: вырос маркетинговый хайп. Сейчас уже ничего без ИИ будто и быть не может. У нас уже было несколько таких ажиотажных этапов: компьютеризация, Интернет, электронная коммерция. Сейчас мы переживаем период ИИ. Слово интеллект» в этом словосочетании довольно маркетинговое. С тем же успехом можно было сказать, что это искусственный болван, искусственный троечник и т.д. Если оценивать трезво, то действительно был создан некий инструмент, способный оказывать людям помощь в их интеллектуальном труде. Что касается книг, то в нашем советском детстве не было писателей, которые выдают по роману в месяц, не существовало сериального формата. Возможно, такого рода чтиво ИИ научится генерировать для публики, не очень требовательной к сюжетам и языку.
Как отметила выступающая, фантасты прошлого ошибались:
— Ещё с А. Азимова у них истории начинались с того, что роботы выполняли грязную и неприятную работу, потом совершенствовались, обретали разум и становились конкурентами человеку. Сегодня объективно замены труда уборщиков вообще не предвидится, да и приготовить кофе на незнакомой кухне роботу не под силу, а в понимании того, как устроены объекты реального мира, нейросети не сравнятся даже с трёхлетним ребёнком, но зато претендуют на творчество. Мне близка позиция коллег: настоящее творчество не может быть без души. Это не игра в слова, а часть личности творца. У ИИ в ближайшем будущем ничего похожего на личность не предвидится. Написать хорошую дипломную работу он сможет, это большой вызов для сферы образования. Когда появились компьютеры, возникла необходимость менять учебный и организационный процессы. Внедрение ИИ тоже влечёт потребность в изменении привычных процедур. Главное, чтобы он не заменял мозги.
Недавно Санкт-Петербургский университет провёл эксперимент: создали подборку из 100 стихотворений, половина из которых принадлежала поэтам-классикам, а вторая была сгенерирована по их подобию. В эксперименте приняли участие около 600 человек, у них было две задачи: различить стихотворения и дать свою оценку. Оказалось, что на 25% чаще стихи, написанные ИИ, маркировали как более качественные и приятные. И столько же респондентов произведения, созданные ИИ, принимали за написанные людьми. Что на самом деле означают эти результаты, почему так вышло и как это повлияет на поэзию?
Бойко Ламбовски отметил, что ИИ прекрасно имитирует и с каждым шагом делает это всё более уверенно, доходит до того, что он подражает человеческому мышлению, что уже происходит в шахматах, в любой другой игре, да и в литературе. Но пока ему не под силу то, что делает человека человеком:
— В романе «Игрок» у Достоевского человек ходит в казино, чтобы сорвать куш. Но глубокий анализ мотивации его поступков показывает, что на самом деле он хочет проиграть и разориться, для того чтобы попасть в ситуацию исцеления болью. Так что литература, созданная машиной, всегда будет вторичной.
Елена Стельмах считает, что у каждого дела — своя цель:
— Может быть, ИИ способен превзойти Шекспира, Пушкина. Но что из того, если этого не примет живая душа человека? В белорусской литературе всегда была популярна тема малой родины. Многие писатели обращаются к своим истокам, корням, семейным ценностям. Эти авторы не имеют высоких титулов, они живут в небольших городах, деревнях, но их роль в литературе не менее значима, потому что они чувствуют то место, которое связывает их с поколениями. Такую литературу, кроме человека, никто не создаст.
Елена Колмановская прокомментировала:
— У меня была возможность ознакомиться с результатами этого исследования. Надо сказать, что, во-первых, там всё на английском и, как это звучит для англоязычного человека, русскому пользователю не очень понятно. Во-вторых, исследование проводилось среди людей, стихи не читающих. В-третьих, можно было вместо сгенерированных текстов взять слова любой музыкальной группы и было бы то же самое: люди, стихов не читающие, сказали бы, что это лучше. Наконец, это исследование не про свойства ИИ, а про то, как люди понимают поэзию: как их жизненные качества и свойства связаны с ней, на что они обращают внимание. Так что история не о том, что ИИ победил и нам не нужен Пушкин, а о том, что людей цепляет в рифмованных текстах. В этом смысле ИИ может дать средства для изучения того, как устроено человеческое восприятие, интерес.
Не так давно была разоблачена афера в музыкальной отрасли, когда некая компания выдавала сгенерированную подборку треков в жанре техно за неизданный альбом неизвестной группы 1980-х гг. Другой случай — один американский журнал перестал принимать рукописи рассказов sci-fi, потому что среди них много сгенерированных текстов. Следует ли заниматься государственным регулированием творчества ИИ, его применения в той или иной сфере?
Бойко Ламбовски:
— Я считаю, что нужно. Это похоже на цензуру, но иначе наступит хаос. Вообще, тема публичного слова — сложнейший вопрос современности, потому что сейчас возможностью говорить публично обладает каждый. Это демократично, но неестественно для всей истории человечества. Раньше это была привилегия выдающихся, авторитетных людей. В данной сфере необходимо регулирование как в целом, так и в отношении ИИ.
Елена Стельмах:
— Лично мне ИИ напоминает раскалённый утюг. Можно сильно обжечься, но если есть инструкция и вы знаете, как этим правильно пользоваться, то можно в поглаженном, приличном костюме выйти в общество. Всё в нашей жизни чем-то регулируется. Думаю, что наступит момент, когда и этот вопрос будет улажен на уровне законодательства. Тем более что для творческих людей важны такие понятия, как авторское право, плагиат и т.п.
Елена Колмановская:
— Когда появился Интернет, сначала он был маленьким и никого не волновал. Потом вырос и охватил всех, тогда возник вопрос регулирования. Мы в «Яндексе» всегда говорили о том, что регулировать нужно не сам Интернет, а сферы, в которых он применяется. То есть, условно говоря, в законе о торговле должна быть предусмотрена электронная коммерция. Поэтому думаю, что имеющиеся правила должны быть дополнены использованием ИИ. Кроме того, считаю, что в первую очередь надо регулировать ответственность тех, кто ИИ применяет: сама нейросеть письма и посты не пишет. По мере того как ИИ будет занимать всё больше места в жизни людей, появятся правила, как с генно-модифицированными продуктами, т.е. маркировка того, что в том или ином продукте использован ИИ.
Очевидно, что технологии будут развиваться. Какой конкретно ИИ вы бы создали и для какой области?
Бойко Ламбовски:
— Я бы создал ИИ, который помогал бы человеку иметь больше свободы для размышлений и занятий творчеством. Это звучит банально и неоригинально, но это и есть величие человека, смысл его жизни.
Елена Стельмах:
— В моём понимании ИИ значим в решении бытовых задач. В Минске мне нравится система «Умный город», когда стоишь на остановке и понимаешь, через какое время придёт твой автобус. Безусловно, время должно высвобождаться для развития личности человека, для того, чтобы он напрягал свои мозги, а не надеялся на искусственные.
Елена Колмановская:
— Я исключительно за то, чтобы появились роботы, которые снимут с человека не ответственность за принятие решения, а скучную, унылую работу. Даже в «беловоротничковой» работе есть потоки. Условно говоря, операционистки в банке или сотрудницы МФЦ «сидят а потоке». Они обладают феноменальным терпением и могут 20 минут помогать немолодому человеку решать его вопросы, у них есть эмпатия. Я бы с удовольствием увидела робота с эмпатией. К чести ИИ хочу сказать, что есть масса алгоритмов, которые применяются в медицине для поиска новых лекарств, для технических расчётов. Хочу, чтобы в ИИ были встроены ограничения. Ещё в прошлом веке, когда появились калькуляторы, которые умели считать производные, брать интегралы, у меня была мечта: чтобы через 20 операций устройство спрашивало, сколько будет дважды три. Если человек не мог правильно ответить, калькулятор говорил бы ему, что не стоит считать интегралы. Необходимы встроенные ограничители, чтобы кто-то не смог усилиться в тысячу раз автоматически с помощью нейросети.
Сейчас ИИ развивают в основном две страны: США и Китай. Получается, что два языка, английский и китайский, будут иметь преимущество и литература на этих языках станет доминировать. А что будет с русским языком?
Елена Стельмах:
— Не думаю, что русский язык будет испытывать давление. А что ещё важно — национальные языки. Мы их очень ценим, это наша уникальность. Если мы не создадим произведения с помощью ИИ, мы напишем их на родном языке, в котором заключён код каждой нации.
Елена Колмановская:
— Русскому языку фантастически повезло, потому что в самом начале Интернета число русскоязычных пользователей составляло 1%, а объём текстов на русском языке — 5 или 6%. А вообще, количество не означает качества. Даже если каждый китаец напишет по произведению и даже если они окажутся неплохими, не факт, что мы их поймём, потому что язык — это часть сознания. Люди, живущие в Белоруссии, тоже думают на своём языке. Перевод должен быть конгениален источнику, чтобы люди восприняли его адекватно на другом языке.
МОЖЕТ ЛИ ИИ МЫСЛИТЬ?
Из словосочетания «искусственный интеллект» следует, что он имитирует человеческий разум, в том числе при обучении и принятии решений. Авторы издательства «Директ-Медиа» считают, что развитие ИИ ставит перед нами фундаментальный вопрос: когда нейросеть сможет мыслить, как человек, и что мешает ей достичь этого уровня? В книге «Психология искусственного интеллекта» её автор Сергей Фролов обращает внимание на то, что развитие ИИ стало серьёзным вызовом для психологов.
Психолог, социолог, эксперт в области стратегических коммуникаций, разработчик прикладных ИИ-программ Сергей ФРОЛОВ отметил, что в настоящее время существует проблема перехода от так называемого слабого ИИ к сильному и ответ на вопрос, когда ИИ обгонит человека, состоит из двух частей.
— В решении отдельных задач он уже давно это сделал, возможно ещё со времён калькулятора. Сейчас играть в шахматы, создавать шаблонные тексты, иллюстрации, видео ИИ умеет лучше людей. Но означает ли это, что он мыслит как человек? На этот вопрос ответить прямо нельзя, надо внести уточнение: что это значит — мыслить как человек? Здесь тоже ответа пока нет. Чтобы перейти к сильному ИИ, надо решить несколько важных задач. Сейчас ИИ выполняет отдельные изолированные функции, он работает как вендинговый аппарат: заложили — получили. Сам ИИ не способен в принципе определить, надо ли ему решать эту задачу. В этом заключается так называемая проблема контекста — неспособность ИИ распознать, что в данный момент значимо для принятия решения, а что второстепенно. В то же время каждое мгновение сознание человека работает таким образом, что оно сканирует информационный поток и выделяет значимое.
Вторая важная задача состоит в разрешении проблемы сознания: надо определить, что такое психика, личность, эмоции. Казалось бы, мы все используем эти слова и имеем представление о названных сущностях, есть целый набор дисциплин в психологии, использующих данные термины как научные универсальные понятия. А в действительности ещё со времён И. Сеченова психология, родившись в кризисе и не выходя из него, дошла до сегодняшних дней. Ни одно из базовых понятий в психологии не имеет общепринятого, реализуемого на практике определения. Психология нуждается в таких же решениях, как точные науки, для того чтобы реализовать понятный функционал, который можно переложить в техническое задание для программистов. Думаю, что решение заключается в том, чтобы проследить эволюцию и проанализировать, каким образом сформировались наши сознание и психика в результате решения адаптационных задач. Какова была роль эмоций, когда они появились в ходе эволюции? Какие первые виды существ стали ими обладать? То же самое касается мышления, сознания, личности. Естественный отбор даёт нам серьёзную подсказку и позволяет выделить пять базовых адаптационных задач. Они сформировались последовательным образом, а вокруг них сложились когнитивно-поведенческие структуры, позволяющие выделять эти задачи из информационного поля и вырабатывать решения. Таким образом можно перейти к созданию ИИ уровня человека через реконструкцию этих задач:
1) оказаться в благоприятной среде с источниками энергии для жизни. Когнитивная деятельность: распознание благоприятной среды. Дифференциация среды в бинарной системе: «пригодная — непригодная»;
2) захватить добычу и/или избежать нападения. Когнитивная деятельность: распознавание отдельных объектов, элементов, феноменов и их ключевых свойств, дифференциация хищника и добычи;
3) скрыть или манифестировать своё присутствие и/или наиболее существенные признаки. Когнитивная деятельность: распознавание деталей контекста и своей репрезентации для управление вниманием других организмов;
4) взаимодействие в группе. Когнитивная деятельность: извлечение значения групповой динамики связанных в единую систему объектов и соотнесение своего поведения с группой;
5) оперирование представлениями и образами объектов в отсутствие самих объектов вне актуальной ситуации их непосредственного присутствия.
Такой ИИ будет не только имитировать человеческое поведение, сознание, эмоции и мышление, но и реагировать в определённых ситуациях точно так же, как человек, подчеркнул в завершение эксперт.
Сейчас все спорят о том, насколько компьютер приближается к человеку и становится его незаменимым помощником. В книге «Информационные ландшафты цифровой цивилизации» Константин Костюк исследует обратный процесс — адаптацию человеческого мышления к компьютерной среде. Вышло ещё одно издание его книги «Может ли искусственный интеллект мыслить?». В ней автор называет ИИ рубежом новой реальности, в которой наряду с человеческим сознанием присутствует цифровой разум.
Константин КОСТЮК, генеральный директор издательства «Директ-Медиа», продолжил размышлять на тему искусственного разума:
— Допустим, есть пять когнитивных карт, которые делают
ИИ похожим на человека в отношении мышления. Почему бы не предположить, что существует шестая? Таким пространством, где ИИ действительно сильнее нас, является информационное поле, и прежде всего язык. Это мы выяснили, когда появились большие языковые модели, в первую очередь ChatGPT. Постструктуралисты говорят, что язык не просто средство адаптации к реальности и инструмент коммуникации, но самостоятельная система. Автор лишь элемент, некое техническое начало: язык сам продуцирует смыслы. Что-то такое мы почувствовали, когда пришли большие языковые модели как программы по деконструкции языка. ИИ овладел способностью реконструировать язык и стал замечательным переводчиком. Если мы с трудом выучиваем два-три языка, то у него переход с одного языка на другой осуществляется с необычайно лёгкостью. Овладев структурой языка, нейросеть может доминировать над человеком.
Ещё один момент, который нас заставляет задуматься над тем, может ли ИИ мыслить, — следующий парадокс. Если он не такой же, как мы, значит, он Другой. До XX в. в философии Другого не было. Мартин Бубер обращался к Богу как к Другому, к этому можно было относиться с изрядной долей скепсиса. Но когда перед нами носитель интеллекта и мы это распознали, Другой пришёл во всей своей силе. Он может не считаться с нами, в какой-то момент вообще игнорировать человека. Отсюда следствие: мы должны выстраивать этику отношений с ним, сопоставимую с большими религиозными концепциями.
Сейчас мы всё своё внимание обратили на машину: что она может, чего не может — и совершенно не отслеживаем, что меняется в нас в связи с этим. Но уже не одно десятилетие мы активно перестраиваемся на цифровой язык. Не просто развиваем ИИ, но в своих ключевых понятиях, образовательных концепциях переходим на модель вычислительного цифрового разума. Мы трансформируем свою реальность в базы данных, языки программирования, для того чтобы машина нас могла понять, и постепенно приоритет получает машина. Простой пример — ЕГЭ. К нему готовятся на протяжении всех лет обучения в школе, но этот экзамен о том, что представляет собой человек, принимает машина. В итоге машина становится критерием того, что такое «мыслить». И вопрос надо ставить не так: может ли ИИ мыслить, а совершенно по-другому: способен ли человек мыслить в этом пространстве искусственного разума?
Тему образования продолжил исследователь, руководитель ИT- и ИИ- проектов в компании «СПАРК Интеграция», автор Telegram-канала «ИИ в образовании» Александр МИНАКОВ:
— Мы живём в ключевой период истории: наступает эпоха co-pilоt, «второго пилота». У нас появляется готовый работать в режиме 24/7 персональный помощник, который может за нас решать различные задачи. Технология уже применяется в различных средах, государство внедряет ИИ во многие сферы, это отражается в ключевых стратегиях. В отношении образования тоже есть соответствующие документы. Президент РФ неоднократно говорил о том, что ИИ не заменит педагога, но станет надёжным помощником учителя и снизит его нагрузку.
Несмотря на то что ИИ внедряется в разные сферы, в образовании он отстаёт. Это несколько консервативная отрасль, и стоит вопрос подготовки педагогов, с тем чтобы они владели этим инструментом во благо, а не во вред. Пока у нас нет качественных продуктов, которые обеспечивали бы все потребности учителя. Во-первых, это проверка домашних заданий. Выполняемую вручную работу вполне можно передать ИИ. Во-вторых, разработка персонализированных заданий. Если ребёнок не стремится изучать, к примеру, физику, но видит специально сгенерированную под его увлечения задачу, мотивация повышается. Ещё одно направление — тесты. Но я считаю, что тесты — пережиток прошлого: легко отгадать один вариант ответа из четырёх-пяти. Когда мы отвечаем на задания теста, не всегда потом узнаём правильный ответ, это игра в одни ворота, абстрактный срез знаний. Важно ведь не просто проверить уровень усвоения, но научить чему-то. Речевые диалоговые тренажёры на базе ИИ позволяют более эффективно решать эту задачу. Ученик отвечает не однозначно, а развёрнуто, ИИ анализирует его ответы и даёт заключение, почему выставлена та или иная оценка. У обучающегося включается критическое мышление, он читает правильные ответы, понимает, что не так. Тем самым обеспечивается персональная обратная связь, которую каждому в классе учитель дать не в состоянии. За этим будущее, — подчеркнул А. Минаков.
Вопрос компетенций педагога здесь ключевой, именно от них должна идти инициатива в бизнес, в ИТ-разработки. Чем быстрее учителя получат представление о том, как можно ИИ использовать, тем качественнее они смогут сформулировать свою потребность в виде проектов, заинтересовать и привлечь разработчиков и создать эффективные образовательные продукты, отметил в завершение эксперт.
Таким образом, круг проблем и решений, связанных с ИИ, растёт и ширится. Насколько его внедрение связано с модой, с маркетинговыми ходами и манипуляциями, а насколько это необходимо во всех сферах деятельности человека для повышения качества жизни и освобождения от рутинной и тяжёлой работы — темы будущих дискуссий.
Рубрика: Искусственный интеллект и нейросети
Год: 2025
Месяц: 2
Теги: Писатели Искусственный интеллект (ИИ) Бойко Ламбовски Елена Стельмах Елена Колмановская Сергей Фролов Константин Костюк Александр Минаков Non fiction