По мере того, как ИИ всё глубже проникает в разные сферы жизни, его использование необходимо тщательнее регулировать, уверены опрошенные RT эксперты. Человеку по-прежнему нужно следить за тем, чтобы нейросеть не выдумала несуществующие данные и не ссылалась на непроверенные источники, поскольку в чувствительных областях это может нанести вред пользователям. Какие задачи всё ещё нельзя доверять нейросетям и как обстоят дела с контролем использования ИИ сейчас — в материале RT.
- Сгенерировано с помощью ИИ
По мере распространения ИИ-инструментов становится всё более насущным вопрос ответственного подхода к их использованию, отмечают опрошенные RT эксперты.
Несмотря на быстрое развитие технологии, никуда не исчезли актуальные для нейросетей проблемы.
Так, ИИ может поддерживать ошибочные суждения и выдавать непроверенные данные.
В то время, как рядовые пользователи привыкают перепроверять ответы чат-ботов, в разных профессиональных сообществах и даже на уровне государств уже рассматриваются вопросы регулирования использования ИИ-инструментов.
«Если говорить в общем, то регулирование ИИ нужно прежде всего в отраслях с высокой ценой ошибки. Причем под ценой ошибки подразумевается достаточно широкий набор — от угроз жизни и здоровью людей или общества в целом до высокой стоимостной оценки потенциального ущерба», — отметил в беседе с RT руководитель программы магистратуры «Проектирование и разработка систем ИИ» Университета ИТМО Александр Кугаевских.
- Gettyimages.ru
В октябре СМИ обратили внимание на свод правил ответственного использования искусственного интеллекта в науке. Его предложили российские учёные — химики, а также редакторы научных изданий в публикации «Искусственный интеллект в подготовке научных статей», которая вышла в журнале «Успехи химии».
Семь принципов подготовки научных статей с использованием ИИ объединили аббревиатурой VALENCE. Принцип Verify закрепляет необходимость проверять все факты, ссылки и выводы. Acknowledge — открыто указывать, где именно были применены ИИ-инструменты. Limit — ограничивать участие ИИ решением посильных задач: перевести иностранные источники, проанализировать первичные данные, улучшить стиль и технические параметры.
Принцип Edit предписывает авторам редактировать сгенерированный черновик. Ответственность за мнения, аргументацию и данные несёт человек.
«Написать красивый чистый текст больше не трудно. Стоит проблема аморального, неэтичного использования ИИ, фальсификации данных. При этом системы детекции — как российские, так и зарубежные — очень сильно отстают. Сами же большие языковые модели могут удалять маркировку со сгенерированного контента. В случае с научными текстами, чтобы распознать недобросовестную публикацию — нужно, чтобы эксперт мог не просто отличить неестественный язык, а заподозрить фальсификацию данных», — пояснила в беседе с RT профессор кафедры философии НИЯУ МИФИ, ведущий эксперт лаборатории цифровых исследований Екатерина Тихомирова.
Стандарт No AI authorship запрещает упоминать нейросеть как соавтора и цитировать сгенерированный контент как научное утверждение. Принцип Cite & protect обязывает обращаться к первоисточникам и проверенным сервисам, а также соблюдать нормы авторского права.
- Gettyimages.ru
Финальный постулат Ensure standards закрепляет обязанность обеспечивать соответствие итоговой работы научным стандартам, а это точность, ясность, оригинальность, воспроизводимость экспериментов, достоверность данных и соблюдение этических норм.
«Самым важным становится этическое поле. Нужно думать не о том, как маркировать тексты и изображения, сгенерированные ИИ, а как проверить суть идей и их ценность. Авторское право, академическое право и академическая мораль сегодня должны в первую очередь оценивать идеи», — подчеркнула Екатерина Тихомирова.
Помощь по закону
Стандарты использования ИИ, ориентированные на практику, складываются, в частности, в медицине. Эксперты предупреждают: нейросети, которыми пользуются врачи в поликлиниках и больницах, не похожи на общедоступные сервисы.
«В России медицинские программные продукты, предназначенные для диагностики и принятия врачебных решений, могут относиться к медицинским изделиям и проходить соответствующую регистрацию. Это принципиально отличает специализированную медицинскую систему от обычного чат-бота в интернете. Качество результата зависит от данных, на которых обучался алгоритм, и от информации о конкретном пациенте», — объяснил RT ассистент кафедры физиологии ИФ Пироговского Университета Станислав Шилейко.
Специализированные медицинские нейросети попадают в область действия законов «О поддержке развития технологий искусственного интеллекта в Российской Федерации», «Об основах охраны здоровья граждан в Российской Федерации», а также «Правил государственной регистрации медицинских изделий» и некоторых других нормативных актов.
- Gettyimages.ru
Обычные чат-боты функционируют в ином правовом поле, и они не обучаются на специализированных датасетах. Поэтому их стройные и логичные инструкции могут оказаться вовсе не полезными.
«Генеративные системы вроде популярных чат-ботов способны выдавать убедительно звучащие, но ошибочные ответы. Они могут не учесть противопоказание, взаимодействие лекарств или важный симптом или просто взять за основу ответа ложные данные. Без соответствующего образования человек просто не способен увидеть допущенные ИИ ошибки. Поэтому совет ИИ «принимать такой-то препарат в такой-то дозе» нельзя считать медицинским назначением», — говорит Станислав Шилейко.
Эксперт разъяснил: сегодня ИИ действительно служит подспорьем в персонализированной медицине. Однако ответственность за постановку диагноза и выбор тактики лечения по-прежнему несёт врач. Заменить его в сфере принятия решений «электронный доктор» не может.
«Наиболее реалистичная модель выглядит иначе: алгоритм быстро анализирует большой объём данных, предлагает или ранжирует возможные варианты, а врач оценивает их с учётом состояния и особенностей конкретного человека. Именно такое сочетание возможностей ИИ и клинического опыта сегодня выглядит наиболее перспективным, а обычному человеку не стоит воспринимать ИИ как полную замену профильному специалисту», — подытожил Шилейко.
Рамки для нейросетей
О регулировании использования нейросетей задумались в том числе власти некоторых стран и международные организации. Первым наднациональным документом стала Рекомендация по этическим аспектам ИИ, разработанная в 2021 году ЮНЕСКО.
На территории ЕС в 2024 году был принят Закон об искусственном интеллекте, в котором отражены риски использования ИИ-инструментов (включая общение с чат-ботами или создание дипфейков) и необходимые меры контроля. Особое внимание уделено авторскому праву: обязательность маркировки сгенерированного контента, предотвращение генерации нелегального содержимого и предупреждение пользователей об обращении к источникам, которые охраняются авторским правом.
Страны БРИКС в 2024 приняли Казанскую декларацию о глобальном сотрудничестве в регулировании ИИ и борьбе с киберпреступностью.
«Лучше всего, если регулирование будет осуществляться экспертами в области ИИ, представителями бизнеса и федеральных органов исполнительной власти, университетской среды. Международные организации, которые сейчас только формируются, например, китайская инициатива WAICO, лишь начинают прорабатывать вопрос регулирования, поэтому пока лучше ограничиться национальными инициативами», — отметил Александр Кугаевских.
Отдельные стандарты разрабатываются для таких сфер, как здравоохранение, образование, сельское хозяйство, экология и беспилотный транспорт. Однако иногда подобные инициативы встречают сопротивление, в том числе по экономическим мотивам.
«Бизнес по понятным причинам почти всегда выступает против регулирования, указывая, что это замедляет развитие технологий. На самом деле — конечно же, нет, просто при разработке систем приходится учитывать нормы, и это требует увеличения затрат», — объяснил Александр Кугаевских.
