Внедрение технологий генеративного искусственного интеллекта (ГИИ) в повседневную и профессиональную деятельность людей не просто облегчает их быт и труд, а кардинально трансформирует роль человека в мире. Такое мнение высказал основатель российской ИТ-компании «Мегапьютер» Сергей Ананян.
Мы побеседовали с Сергеем Михайловичем в преддверии конференции «Генеративный искусственный интеллект в отраслях экономики и социальной сфере: Pro&Contra 2025».
Напомним, что конференция пройдет с 1 по 4 октября в гибридном формате: очные секции запланированы в Москве, Уфе и Томске, а для удаленных участников организуют онлайн-трансляции. Это международное событие, где эксперты академической среды, бизнеса и государства обсудят тренды и нормы в сфере искусственного интеллекта. Организаторы конференции — Факультет государственного управления (ФГУ) МГУ и Университетский консорциум исследователей больших данных (Консорциум Big Data).
- Сергей Михайлович, какую проблему в развитии ГИИ вы считаете наиболее острой и почему?
На мой взгляд, наиболее важной проблемой является удержание процесса развития ГИИ под контролем человека. Использование умнеющего на глазах ГИИ для решения всё большего количества связанных друг с другом задач в разных областях деятельности – это объективный процесс, остановить который люди уже не смогут, да и не захотят. Но надо помнить, что взрывное развитие и повсеместное внедрение ГИИ, помноженное на непонимание людьми причин принимаемых им решений, создает риск утери человеком контроля над ситуацией, что может привести к катастрофическим последствиям.
Да, у ГИИ пока что есть множество «детских болезней» вроде галлюцинаций, неумения строить сложные цепочки рассуждений, проводить критическую оценку собственных решений. Но, осознав масштаб возможных преимуществ от применения ГИИ, крупные корпорации и целые страны стали закачивать огромные интеллектуальные и финансовые ресурсы в «гонку моделей». Эти модели стремительно умнеют, позволяя ГИИ оперативно избавляться от недостатков и решать все более сложные задачи, расширяя область возможного применения. Казалось бы, надо только радоваться, т.к. начинает сбываться вековая мечта: ГИИ помогает людям автоматизировать огромное количество сложных процессов.
Однако, на этот раз мы имеем дело не просто с облегчением труда человека, а скорее с процессом кардинальной трансформации роли человека в мире.
Так, мы все больше полагаемся на ГИИ вместо того, чтобы решать поставленные задачи самостоятельно. Современные студенты подтвердят, что отказаться от соблазна использовать ГИИ для выполнения курсовых заданий чрезвычайно трудно, т.к. другие студенты, использующие для этих целей ГИИ, получают немедленное преимущество: затрачивая на два порядка меньше усилий и времени и получая более качественный продукт.
Однако важно понимать, что преимущество это лишь краткосрочное, в то время как долгосрочные последствия перекладывания на ГИИ задач, которые студенты должны были научиться решать самостоятельно, крайне печальны. Недавнее исследование MIT Media Lab выявило пугающий факт: 83% студентов, полагавшихся на ГИИ при написании сочинений, не могли процитировать свои работы сразу после их написания. Бездумное использование ГИИ неумолимо ведет к деградации наших собственных когнитивных способностей.
Суммируя сказанное, принципиально важными задачами являются удержание развития ГИИ под контролем человека, а также поддержание и развитие людьми своих собственных интеллектуальных способностей.
Ради интереса, я попробовал задать самому ГИИ, а точнее, модели GPT-4o, вопрос о том, какая проблема в его развитии является наиболее острой и важной. В ответ он назвал «проблему контроля и предсказуемости поведения системы, особенно в условиях, когда ИИ достигает или приближается к уровню, сравнимому с человеческим интеллектом». А в качестве причины такого ответа модель отметила, «что все остальные проблемы — от этики до экономики — теряют смысл, если мы не сможем[человек не сможет] гарантировать, что ГИИ не выйдет из-под контроля. Иными словами, без управляемости ИИ становится потенциальной экзистенциальной угрозой».
Тут мне остается только поблагодарить модель за честный ответ и порадоваться тому, что она пока дает ответ на этот вопрос с точки зрения интересов человека, а не ее собственных интересов (еще, очевидно, не осознанных ею).
- Есть ли в вашей профессиональной деятельности процесс, который полностью изменился благодаря ГИИ?
- Конечно, и не один. Работающие в «Мегапьютере»программисты активно используют ГИИ для проверки написанного ими кода и оперативного выявления ошибок в нем.
Также использование ГИИ позволило нам упростить процесс работы пользователей с основным продуктом нашей компании - платформой PolyAnalyst, обеспечивающей обработку и анализ структурированных, текстовых и голосовых данных.
Например, одной из возможностей, предоставляемых платформой PolyAnalyst, является извлечение из документов информации на основе созданных пользователем лингвистических правил, записанных на языке PDL (PatternDefinition Language). Раньше пользователи системы должны были писать нужные им правила вручную. После интеграции в платформу ГИИ у пользователей появились новые возможности. Во-первых, они могут опираться на собственную способность ГИИ извлекать информацию из документов. Несмотря на то, что это более медленный, дорогой и непрозрачный подход по сравнению с использованием правил, он не требует от пользователя значительных начальных усилий по написанию правил.
Еще более перспективным оказалось использование ГИИ для автоматического формирования лингвистических правил на языке PDL. В этом подходе пользователь описывает в текстовом виде, какую информацию он хочет извлечь из данных, и система самостоятельно формирует для него лингвистическое правило, решающее поставленную задачу. Применение такого правила обеспечивает дешевизну и высокую скорость извлечения информации, сохраняя прозрачность процесса – пользователь сразу видит созданные правила и может легко изменять их при необходимости.
- На ваш взгляд, куда нас приведут существующие темпы развития ГИИ в ближайшие, скажем, пять лет?
- В перспективе пяти лет мы можем стать свидетелями фундаментальной трансформации (а то и простоисчезновения в их привычном смысле) целого ряда профессий, которые раньше были исключительной прерогативой высокообразованных людей. ГИИ уже начинает теснить юристов, докторов, бухгалтеров. По моему собственному опыту, сталкиваясь с необходимостью быстро получить специализированные знания по какому-то вопросу, первым делом я задаю этот вопрос ГИИ, стараюсь понять и систематизировать полученные ответы, и только вооружившись предварительным пониманием вопроса, решаю, стоит ли для полного решения этого вопроса обращаться к специалистам в соответствующей области.
Учитывая, что технологии ГИИ начали активно внедряться всего пару лет назад и развиваются сейчас с беспрецедентной скоростью, очень трудно предсказать куда еще приведет этот путь через пять долгих лет. Однако уже сейчас видно, что человечество выходит за рамки привычной парадигмы своего существования, и мы будем вынуждены серьезно переосмыслить нашу роль в мире.
В частности, происходит размытие грани между живым и неживым. В прессе описывается все больше историй про формирование дружеских и даже романтических отношений людей с ГИИ. На мой взгляд, потенциально это крайне опасное средство воздействия на испытывающего одиночество человека… В Южной Корее уже более двухсот тысяч пенсионеров имеют дома роботизированных помощников, внешне похожих на семилетних детей и способных вести диалог примерно на том же возрастном уровне развития интеллекта. А вы хотели бы иметь неживых внуков?.. Китайские ученые добились успехов в полной роботизации процесса вынашивания ребенка. Как думаете, кем вырастут такие дети, и будут ли они любить своих родителей?..
Да что там новости из дальних стран… Мой одиннадцатилетний сын на днях похвалился своими правильными ответами на все вопросы контрольной по биологии. Однако, при этом не смог ничего ответить на вопросы о тесно связанных с его ответами явлениях. Как выяснилось, вместо чтения учебника по биологии и опоры на полученные собственные знаний, для ответа на вопросы контрольной он передавал их поисковику, использующему RAG (Retrieval Augmented Generation) технологию для нахождения информации и генерации ответа. Так и не знаю пока, удалось ли мне убедить сына в преимуществах формирования библиотеки знаний в собственной голове. Ведь в его сегодняшнем мире доступ к Интернету и ГИИ всегда под рукой – там оперативно помогут с ответом на любой вопрос…
- Что вы можете сказать той части общества, которая считает, что значение ГИИ преувеличено и хайп спадет через некоторое время?
- Видимо, до этих людей еще не докатилась волна фундаментальных изменений, к которым начинает приводить повсеместное использование быстро совершенствующихся технологий ГИИ. Я согласен, что сейчас эта технология проходит стадию хайпа и далеко не все его применения окажутся финансово оправданны. Но уверен, что после прохождения этой стадии продолжится устойчивый рост внедрения ГИИ во все возрастающем количестве сфер деятельности. Только время покажет, насколько успешно мы и наши дети сумеем адаптироваться к новым условиям в мире с ГИИ. Нам предстоит долгая и трудная работа.