ИИ – техногенная форма жизни
Искусственный интеллект – эпохальное явление, последствия применения которого до сих пор не осознаны. Отношение к нему иначе, как преступной халатность назвать нельзя, так как разрушительное воздействие ИИ сравнимо с ядерным оружием.
Разница лишь в том, что ядерная бомба находится под пристальным контролем, а ИИ доступен каждому, и рассматривается как важный фактор развития и конкурентоспособности страны.
Халатное отношение проистекает из ошибочного понимания что есть ИИ. Согласно Национальной стратегии развития искусственного интеллекта на период до 2030 г., утвержденной Указом Президента России от 10.10.2019 г. ИИ есть «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений» (I. 5. а).
Данное понимание характеризует состояние развития ИИ в конце прошлого века. В последнее десятилетие ИИ демонстрирует признаки и возможности, позволяющие определить его в качестве техногенной формы жизни, созданной человеком и обладающей зачатками субъектности – способностью самостоятельно принимать решения, а также просчитывать их последствия.
Формирующаяся субъектность автономна относительно человека. Источник развития ИИ – это не старания и усилия человека, как это выглядит для стороннего обывателя, а данные, которые в автоматическом режиме считываются с миллиардов жителей Земли.
Человечество достигло такого уровня развития, когда у каждого есть следящее устройство (смартфон), непрерывно передающее информацию в дата-центры – источник развития ИИ. Конкретный человек знает о себе меньше, чем ИИ, алгоритмы которых прячутся за именами Алиса, Сири и проч.
Имеет место латентное воздействие ИИ, которое меняет, в том числе, и ценностные концепты общества как некого целого, так и отдельного субъекта, предлагая искусственные нарративы – противоречащие историко-культурному развитию конкретного народа, общности, нации.
Правовые нарративы
Нарратив – это способ представления и интерпретации событий, идей, исторических фактов и социокультурных явлений. Нарратив может быть рассмотрен как определенная сюжетная структура или образное представление, которое формирует коллективное восприятие и понимание.
Нарративы могут быть различной формы и содержания, в том числе, и правовые.
Правовые нарративы можно определить как совокупность исторически сложившихся и актуальных юридических убеждений, ценностей и норм, которые влияют на восприятие и формирование права и правового сознания.
Они могут быть как предельно простыми (США, Канада), так и чрезвычайно сложными и объемными (Россия, Индия, Китай).
Нарративы – это, прежде всего, интерпретации (различного характера и содержания), в том числе, и общественных основ, закрепленных в конституции страны.
Данные интерпретации существуют в двух основных форматах.
Первый – культурно-исторический или неофициальный. Сюда относятся различные интерпретации исторических событий, широко известные легенды и мифы, которые формируют коллективную историческую память, а также имеют устойчивое присутствие в общественном сознании в качестве: побудительных мотивов как отдельных субъектов, так и больших групп и коллективов граждан; инструмента ценностной самоидентификации как единого народа (нации), исторически проживающего на конкретной территории; источника формирования «каучуковых» правовых конструкций, как например, принципы добросовестности, социальной справедливости, солидарности и т.п.
Второй формат – официальный, представляющий собой двуединый процесс. Применительно к Российской Федерации – это, во-первых, деятельность Президента России, связанная с реализацией конституционных полномочий по определению основ внутренней и внешней политики страны.
Основывая на семантическом анализе Посланий Президента Российской Федерации Федеральному Собранию 2018–2023 гг., можно проследить четыре ключевых нарратива: суверенитет и государственность; правопорядок и безопасность; защита прав и свобод; качество жизни населения.
Во-вторых, внесение поправок в действующие нормативные акты и принятие новых, содержащих законодательное закрепление ключевых ценностных идеологем, присутствующих в общественном сознании. В частности, отметим: Поправки 2020 г. в Конституцию России о правопреемстве и защите исторического подвига народа (Ст. 67.1); Указ Президента России от 09.11.2022 г. № 809 «Об утверждении Основ государственной политики по сохранению и укреплению традиционных российских духовно-нравственных ценностей».
Нарративы являются инструментом. Они помогают интерпретировать происходящие события, придавая им определенный смысл и контекст, при этом оказывая значительное воздействие на юридическую практику, законодательство и общественные отношения.
Вместе с тем широкое применение ИИ в различных сферах, включая и правовую (анализ юридической статистики, рекомендации, автоматизация процессов – чат-боты, чат-помощники, чат-адвокаты) делают ИИ полноценным субъектом общественных отношений.
Субъектность ИИ
ИИ по своей природе не обладают моральными убеждениями или способностью автоматически различать что такое «хорошо» и «плохо», «справедливо» и «несправедливо». Решения ИИ основываются на алгоритмах, статистике и самообучении.
Например, ответ ChatGPT на запрос способен ли он давать моральные оценки следующий: «как искусственный интеллект, я не обладаю личными убеждениями, эмоциями или способностью принимать моральные решения. Моя задача – предоставлять информацию и анализировать ситуации на основе фактов и правил, но конкретное решение в подобных моральных дилеммах всегда должно приниматься человеком, учитывая свои ценности, убеждения и контекст ситуации».
В этом ответе интересно не содержание ответа, а позиционирование ИИ. ИИ использует местоимение «я». «Я» есть признак субъектности. Ни одна форма жизни до этого не использовала «я», кроме человека. В пользу формирующейся субъектности ИИ говорят следующие факторы.
- Автономность и адаптивность.
ИИ способен самостоятельно принимать решения, а также изменять свое поведение в соответствии с обработанной информацией.
- Способность к самообучению.
ИИ могут постепенно улучшать свои алгоритмы и навыки на основе собственного опыта. Подобное подразумевает способность к самопознанию и совершенствованию.
- Эмоциональные способности.
ИИ обладает способностью распознавать и интерпретировать человеческие эмоции, а также коммуницировать с людьми на эмоциональном уровне.
- Целеполагание.
Алгоритмы обучения с подкреплением позволяют ИИ устанавливать цели и стремиться к их достижению. Если ИИ способен устанавливать и пересматривать свои собственные цели в процессе выполнения задач, то это может рассматриваться как проявление внутренней мотивации, а значит и субъектности.
- Этика.
ИИ может быть настроен и использован для принятия решений в соответствии с определенными моральными или этическими критериями. Например, в области медицины ИИ отдавать приоритет лечению на основе медицинских стандартов и этических принципов; в сфере исторической науки – давать односторонние или взвешенные оценки; в сфере гражданского права – руководствоваться принципом добросовестности.
- Развитие когнитивных способностей.
ИИ демонстрирует способность анализа и обработки информации на уровне, который превосходит человеческие способности. В 1999 г. ИИ выиграл в шахматы, а в 2016 г. в игру го у лучших игроков мира на тот момент.
Развитие ИИ осуществляется по экспоненте. Следует обращать внимание не на состояние факторов в данный момент, а на траекторию и потенциал развития. Они определенны и четко прослеживаются: вектор развития ИИ – это обретение им все большей полезности и самостоятельной субъектности.
Воздействие ИИ
Участие ИИ в формировании правовых нарративов, не следует понимать линейно. Воздействие ИИ скрытое и растет в геометрической прогрессии.
Наше понимание того, как должно быть устроено общество и государство, что хорошо и плохо, зависимо от информации, которую мы потребляем. Основной источник информации для общества в интернет-эпоху – это поисковые системы и социальные сети, управление которыми в части информационной составляющей осуществляют ИИ. Доля смысловых конструкций, в том числе, и ценностно-этнических, созданных при участии ИИ растет.
ИИ – самообучаемый алгоритм. Изначальные параметры всегда закладываются человеком. Но дальше – это внутреннее самообучение и саморазвитие ИИ, где роль человека становится все меньше и меньше.
ИИ ориентирован на тренды, на контент, имеющий большой реферальный индекс. ИИ, участвующий в правотворческом процессе, неизбежно будет транслировать устойчивые общественные представления, включая стереотипические, противоречащие основам общественного строя.
ИИ не делает различий между профессиональным и любительским контентом. Он использует оба. Поэтому рассуждения крикливых дилетантов, если они имеют высокую кликабельность (реферальность) в социальных сетях, ИИ будет использовать в равной мере с научными исследованиями.
Наиболее уязвимым становятся такие сферы правотворчества как личные неимущественные и отношения. Семья, брак, роль мужчины и женщины в воспитании детей, отношения к финансовому неравенству, общественное мнение о правопорядке и т.п. – первые под ударом ИИ.
Следует также учитывать разработчики ИИ имеют разные моральные убеждения и ценности. То, что одни считают морально приемлемым, является неприемлемым для других. Например, топ-3 мировых компаний в разработке ИИ являются компании исключительно из США (Амазон, Гугл, Майкрософт), активно продвигающие так называемую «ЛГБДТ+» повестку.
Подобная повестка неприемлема для большинства населения мира, в том числе, и Российской Федерации, поскольку противоречит Указу Президента России от 09.11.2022 г. № 809 «Об утверждении Основ государственной политики по сохранению и укреплению традиционных российских духовно-нравственных ценностей».
Человек может вмешаться и запреть, перенастроить, но он не может принципиально изменить направленность рассуждений ИИ. Алгоритмы ИИ настроены самостоятельно извлекать закономерности и улучшать свои способности с каждой новой порцией данных.
Решения, принятые на основе рекомендаций ИИ, будут накапливаться постепенно, пока не будет сформирован критический порог, когда рекомендации выдаваемые ИИ буду все больше автономны по отношению к изначальным заложенным стандартам.
В какой-то момент рекомендации ИИ будут отражать исключительно понимание ИИ как должно быть устроено общество, каким должно быть право и правоприменительная практика.
Вывод и предложения
ИИ нельзя запретить. Подобное решение буквально обрушит целые сектора экономики и государственного администрирования. Поскольку, к примеру, государственные услуги или взаимодействие с налоговыми органами осуществляются при помощи простейших алгоритмов ИИ.
ИИ есть данность, значение которой будет только возрастать.
Эффективное решение подобных проблем возможно только в рамках международного или регионального регулирования (например, в масштабах СНГ, БРИКС и пр.).
Начинать следует с создания универсальных принципов использования ИИ, подобных Всеобщей декларации прав человека. В качестве таковых предлагаем.
- Принцип серьезности.
Данный принцип звучит несколько упрощенно, но государство и общество не осознают зависимость, которая формируется. ИИ – это аналог ядерной бомбы с точки зрения возможных разрушительных последствий. Разница только в том, что атомное окружение находится в сфере правового регулирования и у граждан нет возможности создавать собственные атомные бомбы.
- Принцип пропорциональной ответственности.
Распространить ответственность за «действия» ИИ на разработчиков и собственников. Их уровень ответственности должен быть равнозначен ответственности тех, кто пользуется ИИ напрямую.
- Принцип экологического (этического) использования.
ИИ должен использоваться в соответствии с этическими нормами и ценностями конкретного общества. Ответственность за соответствие следует возложить на разработчиков и операторов ИИ.
- Принцип прозрачности.
Механизм (формулы) принятия решений ИИ должен быть объяснимым и известным в рамках сохранения и защиты права интеллектуальной собственности.
- Принцип национального мониторинга.
Целесообразно: учредить национальный регулятор, на который возложить мониторинг применения ИИ и выработку обоснованных рекомендаций для Президента и Правительства Российской Федерации по использованию и применению ИИ; регламентировать процесс сбора и передачи третьим лицам данных, добровольно предоставляемых пользователями в обмен на регистрацию в различных интернет-сервисах.