Стартовавшая 1 октября конференция «Генеративный искусственный интеллект в отраслях экономики и социальной сфере: Pro&Contra 2025» поднимает важные вопросы безопасности ГИИ. Чего мы должны опасаться и на какие риски и угрозы обращать внимание в первую очередь? Об этом мы поговорили с участником конференции, проректором Вологодского университета Натальей Ястреб.
- Чем реально может быть опасен генеративный искусственный интеллект?
- Нужно понимать, что большие языковые модели и вообще генеративный ИИ - это вычислительные центры с огромным энергопотреблением. Доля их в общем энергопотреблении растёт, и у этого есть определенные экологические, экономические, социальные последствия. ГИИ становится первым в списке технологий, влияющих на экологию. Плюс строительство таких центров требует аппаратного обеспечения, соответственно, это редкоземельные металлы и другие ресурсы. Об этом редко задумываются, когда обсуждают негативные последствия генеративного искусственного интеллекта.
Если говорить о влиянии ГИИ на рынок труда, то, как показывают последние исследования, здесь все-таки не стоит ожидать резкого сокращения профессий или людей в тех или иных профессиях. Наметился тренд на замещение части функций того или иного сотрудника генеративным искусственным интеллектом при сохранении этого сотрудника для реализации других функций, то есть речь скорее про модель усиления рабочего места.
Также исследования показывают, что больше всего ГИИ влияет сейчас на рынок образования. Сфера высшего образования изменилась, как мне кажется, навсегда, в 2022 году, когда мир получил доступ к ChatGPT. И нам нужно будет пересматривать нашу деятельность, что мы и делаем.
Сферы банковских услуг и торговли тоже входят в список отраслей, которые лидируют в плане внедрения искусственного интеллекта, в том числе генеративного. Что касается промышленного производства, реального сектора экономики, там, конечно, до глобальных трансформаций под воздействием ГИИ пока дело не дошло. Скорее можем говорить о замещении или усилении отдельных функций на производстве. Поэтому, наверное, преувеличивать воздействие ГИИ не стоит, надо трезво его оценивать.
А относительно конкретных людей - да, действительно, здесь есть серьезные социальные риски. Потому что когда человек на регулярной основе пользуется такими моделями, он трансформирует свою деятельность, способ мышления и способы решения задач, даже модели взаимодействия с людьми. Особенно сильные опасения вызывают молодые люди и дети, чья личность еще до конца не сформировалась и будет формироваться в условиях взаимодействия с искусственным интеллектом. Это очень интересная тема для исследований. Надо на это обращать внимание.
- Через сколько лет не останется ни одной сферы без участия генеративного искусственного интеллекта?
- Думаю, что разные сферы с разной скоростью будут внедрять ГИИ. Наиболее быстро технологии интегрируются в сферу торговли, банковского дела, образования, СМИ. Другие отрасли менее быстрые в этом смысле.
Но в целом, как говорит Александр Крайнов из Яндекса, все профессии будущего - “это погонщики искусственного интеллекта”. Не нужно понимать это утрированно - что везде будет работать искусственный интеллект, а мы только будем им управлять. Нет, работать будем мы, но наш функционал станет гораздо шире, и обязанностей прибавится. То есть в конечном итоге работать придётся больше.
- Чем реально может быть опасен генеративный искусственный интеллект?
- Нужно понимать, что большие языковые модели и вообще генеративный ИИ - это вычислительные центры с огромным энергопотреблением. Доля их в общем энергопотреблении растёт, и у этого есть определенные экологические, экономические, социальные последствия. ГИИ становится первым в списке технологий, влияющих на экологию. Плюс строительство таких центров требует аппаратного обеспечения, соответственно, это редкоземельные металлы и другие ресурсы. Об этом редко задумываются, когда обсуждают негативные последствия генеративного искусственного интеллекта.
Если говорить о влиянии ГИИ на рынок труда, то, как показывают последние исследования, здесь все-таки не стоит ожидать резкого сокращения профессий или людей в тех или иных профессиях. Наметился тренд на замещение части функций того или иного сотрудника генеративным искусственным интеллектом при сохранении этого сотрудника для реализации других функций, то есть речь скорее про модель усиления рабочего места.
Также исследования показывают, что больше всего ГИИ влияет сейчас на рынок образования. Сфера высшего образования изменилась, как мне кажется, навсегда, в 2022 году, когда мир получил доступ к ChatGPT. И нам нужно будет пересматривать нашу деятельность, что мы и делаем.
Сферы банковских услуг и торговли тоже входят в список отраслей, которые лидируют в плане внедрения искусственного интеллекта, в том числе генеративного. Что касается промышленного производства, реального сектора экономики, там, конечно, до глобальных трансформаций под воздействием ГИИ пока дело не дошло. Скорее можем говорить о замещении или усилении отдельных функций на производстве. Поэтому, наверное, преувеличивать воздействие ГИИ не стоит, надо трезво его оценивать.
А относительно конкретных людей - да, действительно, здесь есть серьезные социальные риски. Потому что когда человек на регулярной основе пользуется такими моделями, он трансформирует свою деятельность, способ мышления и способы решения задач, даже модели взаимодействия с людьми. Особенно сильные опасения вызывают молодые люди и дети, чья личность еще до конца не сформировалась и будет формироваться в условиях взаимодействия с искусственным интеллектом. Это очень интересная тема для исследований. Надо на это обращать внимание.
- Через сколько лет не останется ни одной сферы без участия генеративного искусственного интеллекта?
- Думаю, что разные сферы с разной скоростью будут внедрять ГИИ. Наиболее быстро технологии интегрируются в сферу торговли, банковского дела, образования, СМИ. Другие отрасли менее быстрые в этом смысле.
Но в целом, как говорит Александр Крайнов из Яндекса, все профессии будущего - “это погонщики искусственного интеллекта”. Не нужно понимать это утрированно - что везде будет работать искусственный интеллект, а мы только будем им управлять. Нет, работать будем мы, но наш функционал станет гораздо шире, и обязанностей прибавится. То есть в конечном итоге работать придётся больше.