«Все зависит от человека»: искусственный интеллект — зло, панацея или помощник?

В декабре 2024 года на международной конференции AI Journey была представлена «Белая книга этики в сфере искусственного интеллекта». Большой труд, посвященный этическим вопросам в сфере ИИ, объединил усилия 12 авторов со всей России. Среди них – заместитель директора Института филологии и журналистики Университета Лобачевского Людмила Макарова и директор АНО «Центр развития экспертизы ИИ», член Комиссии по реализации кодекса этики в сфере ИИ Илья Померанцев. Корреспондент портала «Живем в Нижнем» выяснил, как проходила работа над книгой и какие основные мысли в нее заложены.

Мария Стройнова, «Живем в Нижнем»: Какие вопросы рассматривались в книге?

Илья Померанцев: В книгу включили те вопросы об использовании ИИ в различных сферах, которые больше всего интересовали нас как экспертов. Первый вопрос в книге касается «проблемы вагонетки», то есть какой выбор должен сделать беспилотный автомобиль, если ситуация на дороге в любом случае угрожает жизни людей. С точки зрения разработчиков, мы пришли к выводу, что такой проблемы не существует, потому что этот выбор, по сути, никто не закладывает в ИИ. Он не имеет функции спасать кого-то, он не может делать этический выбор. Искусственный интеллект – это технология, которой управляет человек. Если ей правильно пользоваться, она принесет пользу. Все зависит от человека.

Людмила Макарова: Также в книге рассматриваются вопросы об использовании ИИ в сферах медицины, юриспруденции, образования, поднимаются проблемы о цифровых имитациях человека, к примеру, о дипфейках. У нас была целая дискуссия по этому поводу и, в конечном счете, мы решили не использовать понятие «дипфейк», поскольку оно уже имеет негативную коннотацию, а применять более нейтральное понятие «цифровой двойник». Хотя дипфейк — это всего лишь технология.

— Расскажите о формате книги.

И.П.: Мы разбираем вопросы (в сфере этики при использовании ИИ, — прим. ред.) и даем обоснование, рекомендации. В конце каждого вопроса мы привели мнения экспертов по теме. Также мы прикрепили исследования на данную тему и описание ситуаций, где поднимался конкретный вопрос.

Л.М.: Если говорить о нашей «Белой книге», то во время работы мы собирали мнения множества экспертов, очень многих опросили, но не все, к сожалению, в ней указаны. К примеру, Николай Юрьевич Золотых – доктор физико-математических наук, директор Института информационных технологий, математики и механики ННГУ им. Н.И. Лобачевского. Также мы привлекли к нашей работе замечательного специалиста и практика в сфере ИТ Алексея Солодовникова, регионального директора блока технологий СБЕР.

— Какова же главная мысль книги, с какой целью она создавалась?

И.П.: На самом деле, книга получилась позитивной, мы в ней, как авторы, ничего не запрещаем. И вообще в Альянсе (Альянс в сфере искусственного интеллекта – объединение технологических компаний для совместного развития и внедрения ИИ в разных сферах, – прим. ред.) мы к этому с осторожностью относимся, потому что любые запреты плохо сказываются на развитии технологий.

Поэтому в книге мы говорим, что технологии ограничивать не нужно, но стоит посмотреть, насколько этична постановка вопроса и задачи, для решения которой будет использоваться технология. Сильная сторона ИИ в том, что он мягкий и подчиняемый, куда мы его повернем, так он и будет работать.

— Расскажите поподробнее о разделе, касающемся использования ИИ в сфере образования, в работе над которым вы принимали участие. Какие вопросы рассматривали?

Л.М.: Позиция авторов книги совпадает в этом вопросе с позицией ЮНЕСКО — человека никто не заменит. Но в отдельных случаях можно отметить, что цифровые технологии при обучении использовать гораздо дешевле. Если нет возможности нанять учителя, цифровой репетитор поможет решить проблему. Есть положительные примеры использования ИИ при обучении детей с какими-либо заболеваниями, нарушениями, к примеру, с больных аутизмом. Там, где человеку может быть тяжело чисто психологически, возможно применение технологий. Серьезных исследований на эту тему пока нет, поэтому конкретных этических рекомендаций сейчас мы дать не можем.

И.П.: Также рассматривали и другие вопросы, например, можно ли проверять работы с помощью ИИ, можно ли использовать искусственный интеллект при создании учебных работ. Я сам настроен либерально к этому, я за использование технологий в данном ключе. Человек по-прежнему остается архитектором, ведь по нажатию одной кнопки работа не создается. Ученику нужно написать запросы для ИИ, чтобы он дал ответы, разобраться во всей выданной информации, структурировать ее, переписать.

Л.М.: При этом есть проблема с проверкой на плагиат, когда сервис засчитывает как заимствование какие-то базовые стандарты, документы, которые в принципе нельзя изменить. При этом технологии уже могут считывать сгенерированный контент.

И.П.: Поэтому в книге мы рекомендуем обозначать контент, который сгенерировал ИИ, маркировать его, но это по усмотрению ученика. Я лично выступаю за то, чтобы с помощью ИИ проверять работы студентов. Если есть возможность передать монотонный труд нейросети, то ею нужно пользоваться. ИИ будет отмечать те работы, которые требуют внимания учителя, где есть сомнения. В книге же мы сошлись во мнении, что это можно разрешить, но с определенными оговорками.

— А допустимо ли снижать оценку ученику, если его поймали на использовании ИИ?

И.П.: Вопрос в том, как он сделал работу, – просто списал или же редактировал и вникал? Лучше всего это проверить при обычном разговоре, тогда сразу выяснится, усвоил ли обучающийся материал. Все-таки нельзя сразу ставить плохую оценку, если возникают подозрения в использовании технологий при подготовке текста. Однако есть среди нас авторы, которые были категорически против использования ИИ при написании работ.

Л.М.: Поскольку на данный момент правового основания не допускать до защиты или снижать оценку в том случае, когда система отмечает подозрение на сгенерированный ИИ контент, нет, также считаю, что к работе следует отнестись строго и скептически. Однако, если человек успешно защищается, отвечает на вопросы так, что не возникает сомнений в знании темы, снижение оценки будет несправедливым. В конце концов, студент демонстрирует еще и ИТ-компетенции, помимо тех, которые он сформировал в процессе работы над курсовой или выпускной квалификационной работой.

— То есть, искусственный интеллект — это не панацея, это просто вспомогательное средство?

И.П.: Да, это всегда вспомогательное средство.

— Как я понимаю, у авторов книги часто не совпадали мнения по разным темам: кто-то за, кто-то против, к примеру, ИИ в сфере образования. Получается, что сейчас все это зависит от самих преподавателей, от их мнения?

И.П.: Да, получается так. И эта книга как раз нужна, чтобы снять какие-либо аспекты недопонимания. Практически на все вопросы мы даем положительный ответ, то есть использовать ИИ можно, но с учетом ряда факторов, в том числе законодательства. Эта книга и для тех, кто готов разрешить ИИ без всяких оговорок, и для тех, кто категорически против технологий. На нее же можно сослаться при решении спорных вопросов.

— Интересно, что в книге 42 вопроса. Почему именно 42?

Л.М.:  Да, 42 – это же такое культовое число из книги «Автостопом по Галактике». Я так поняла, они [редакторы] специально так к этому подвели. Но изначально было сто вопросов.

— Известно, что книгу должны представить Президенту Владимиру Путину.

Л.М.: Президент — это человек, который продвигает технологии искусственного интеллекта. На конференции Al Journey Президент выступил и сказал, что ИИ — это основа суверенитета России. Несомненно, что те, кто занимается проблематикой ИИ в ее разных аспектах, благодарны за такую поддержку, ведь она является аргументом в дискуссиях с противниками применения ИИ в различных областях нашей жизни.  Очень надеюсь, что Президент ознакомился с «Белой книгой», и нам приятно, что в ней есть наши имена.

И.П.: Стоит отметить, что среди авторов не так много имен экспертов из регионов: из Томска, Казани и мы, из Нижнего Новгорода. Остальные – из Москвы и Санкт-Петербурга. Мы здесь еще раз заявили, что Нижний Новгород — это столица искусственного интеллекта, что мы в нашем городе все вместе делаем много для развития ИИ.

— В таком случае, есть ли вероятность, что книга станет основой для уточнения правовых аспектов в сфере использования ИИ?

И. П.: Безусловно. Все люди, которые работали над книгой, также принимают участие в обсуждении законопроектов. В книге отражена текущая позиция экспертов и, скорее всего, она в том же виде будет учтена при создании законопроектов. В ближайшее время книга точно будет инструкцией, как нужно себя вести при использовании технологий. И на наш труд, опять же, можно сослаться в спорных ситуациях.

«Белая книга» — это вообще первый опыт во всем мире в таком формате разобрать самые основные вопросы об использовании ИИ. Что касается правового аспекта, то, например, Европа пошла по пути запретов, они ограничивают использование искусственного интеллекта, в Китае никак не ограничивают, в Америке – это отдельная история, у них прецедентная система. У нас в России пока нет еще полного и формализованного понятийного аппарата, сфера ИИ регулируется только Указом Президента РФ № 490 «О развитии искусственного интеллекта в РФ» и «Национальной стратегией развития ИИ на период до 2030 года» (2024).

Источник: портал «Живем в Нижнем»