Помните, какую революцию в отечественном юридическом деле произвели персональные компьютеры, а затем мобильные телефоны и мессенджеры? Смена технологической парадигмы продолжается, science is a new magic, поэтому давайте с вами посмотрим, какие тренды актуализировались сейчас, к чему готовиться и о чем стоит подумать.

Сто кг пиццы для попугая и телевизора

Развитие технологий обработки естественного языка (Natural Language Processing) в рамках голоса как нового канала для бизнеса позволило создать голосовые ассистенты (Алиса от Яндекса, Duplex от Google, Zo.AI от Microsoft, Alexa от Amazon), голосовые боты и автоматические колл-центры. Такие системы становятся все сложнее, обучаясь на примерах пользователей и операторов-людей за счет использования нейронных сетей.

Для юристов это новый способ совершения юридически значимых действий (устная форма со всеми плюсами письменной) и необходимость подумать над проблемами авторизации. Вряд ли пользователь захочет, чтобы его попугай, телевизор или кто-то еще с записью голоса хозяина заказали и оплатили через колонку, например, сто килограмм пиццы с доставкой. А ведь для этого нужно лишь много раз повторить слова «Заказать пиццу!».

Для всех это: удобство, но помните про попугая!

«Режим Бога» на промышленных объектах

Все активнее предприятия и консультанты по большим данным используют «цифровые двойники» индустриальных объектов – буровых платформ, прокатных станов, установок нефтехимии и т.п. Цифровой двойник – это модель промышленного объекта, позволяющая с помощью нейронных сетей и машинного обучения устанавливать неочевидные закономерности работы промышленного объекта, предсказывать необходимость ремонта, улучшать показатели, эффективность и т.п., говоря научным языком – условная генеративная модель, способная к воспроизведению реалистичных цифровых следов поведения системы Х при схожих условиях. Экономический эффект – снижение затрат на эксплуатацию на 2-4% в год. Роль машинного интеллекта – распознавание/предсказание поведения реальной системы по реальным данным, данным симулятора или смеси данных.

Для юристов это повод подискутировать об интеллектуальных правах на такой объект.

Для всех это: кирпичик устройства дивного нового мира.

Чёрные очки и бейсболка больше не помогут

Распознавание лица по фото и видео это уже вчерашний день. В промышленной эксплуатации работают системы, достоверно идентифицирующие человека только по фигуре, походке и даже жестам, устойчиво ведущие его от одной камеры к другой. Кепка и черные очки больше не гарантируют анонимность. Государства и корпорации активно и без шума накапливают и анализируют эти данные. Различные категории покупок учитываются банками для формирования кредитного рейтинга человека. Так что покупайте спиртное за наличные, если планируете брать в долг. Так вас и вашу покупку не идентифицируют.

Означает ли это конец приватности? На повестке дня появилась проблема баланса прав человека применительно к распознаванию лиц государством и бизнесом. В Сан-Франциско, например, уже законодательно введен запрет на использование технологий распознавания лиц. Возможно, скоро появятся real dark stores. Там покупателя никто не будет отслеживать, персонализировать, и никуда сведения о его покупке не передаст.

Для юристов это новое поле для создания и применения норм о балансе прав граждан, корпораций и государства на персональные данные о внешнем виде и действиях граждан.

Для всех это повод решить, насколько вы готовы отдавать третьим лицам эти данные для использования.

Где у Электроника кнопка?

Всемирная роботизация порождает различные правовые вопросы. Экспертное сообщество ведущих стран сходится в том, что в умном роботе должны быть «чёрный ящик» для независимой фиксации всей информации и «красная кнопка» для экстренного отключения. Романа Бевзенко справедливо замечает, что биржевые торговые роботы очень близко подошли к тому, чтобы быть, например, юридическими лицами, поскольку у них может быть обособленное имущество для распоряжения и ответственности. Многие юристы сейчас считают, что в первую очередь нужно страховать ответственность робота перед третьими лицами за ущерб, а вопрос выяснения, кто отвечает за конкретный эпизод ущерба (собственник, пользователь, производитель, программист) сделать следующим.

Для юристов это повод подумать, как применять проверенные веками правовые институты для новых объектов и субъектов.

Для всех это: восстание машин все-таки состоится, но исключительно в установленном законом порядке!

Доктор Хаус и большие данные

Как ни сопротивлялись отдельные представители медицинского сообщества, анализ больших данных пришел и в медицину. Выявились проблемы переходного периода:

  • у технологических компаний технологический, а не медицинский подход, что снижает результативность
  • разнородность имеющихся данных (различные популяции, аппараты, методы)
  • нет стандартов подготовки и разметки данных
  • мало данных об оценке диагностической точности
  • проблема собственно доступа к медицинским данным как к наиболее защищаемым персональным данным (проблема их обезличивания).

Для юристов это повод обдумать возможность облегчить при определенных условиях доступ к персональным медицинским данным для целей использования их в научных целях.

Что это значит для всех: посмотрите на свое запястье. Вы уже делитесь своими медицинскими персональными данными с очень крупной транснациональной компанией.

Этика негуманоидного интеллекта

Согласно подходу, озвученному представителями компании Microsoft, этические стандарты технологий искусственного интеллекта должны быть следующими:

  • не удалять никакую информацию
  • сохранять промежуточные результаты обработки данных
  • сохранять целостность данных

Принципами работы с ИИ должны стать:

  • справедливость
  • безопасность
  • конфиденциальность
  • прозрачность
  • подотчетность
  • эгалитарность

Подходами к обучению ИИ могут быть:

  • утилитарный (считаем, что полезнее, например, выгода для ста человек, влекущая вред для одного)
  • универсальный (следовать правилам)
  • обучение на примерах (показываем машине тысячи примеров того, что хорошо, и она сама сделает вывод, правда, вопрос, какой)

Уже очень скоро на электронных полках – стандартные библиотеки этики ИИ и ИИ этика-как-сервис (а ведь все начиналось с трех законов Азимова).

Для юристов это повод подумать о том, что нынешний гражданский оборот содержит все меньше воли людей и все больше решений или подсказок предвзятых алгоритмов. Ведет ли это ко всеобщему добру и справедливости? Ведь jus est ars boni et aequi.

Для всех это: усиливается право того, кто обладает технологией, против тех, кто технологией не обладает. Надо определяться.

Skynet и персональные данные

Проблема возможности электронной личности (electronic person) уже поставлена практикой. Подходы к тому, что (или кто) может быть признано электронной личностью могут быть следующие:

  • сущность, которая сможет быть стороной в суде;
  • которая обладает определенными свойствами;
  • которая зарегистрирована в установленном порядке

Догадайтесь, какой из подходов свойственен российскому правопорядку?

Для юристов это повод задаться вопросами о том, будут ли у электронной личности свободная воля, самоосознание, рефлексия? Какова будет ее юридическая правосубъектность? Будет ли она иметь право на собственные персональные данные? Как подтверждать статус электронной личности? Как понять, кто перед тобой в заочном диалоге – человек или электронная личность?

Для всех это повод не переставать удивляться.

Фабрики рабочим, землю крестьянам, большие государственные данные – бизнесу?

Сейчас идет дискуссия, нужно ли раздать бесплатно российским компаниям накопленные государством большие данные для анализа, разметки и обучения на них нейросетей? Так поступили китайцы со своими данными государственных органов и компаний. Считается, что это стало одной из причин стремительного развития технологических компаний из Поднебесной. С другой стороны, Ноам Хомский полагает, что тренировка нейронных сетей на больших данных не решит всех насущным проблем, поскольку не даст нам понимания причин выявленных закономерностей, не даст нам научных гипотез, ведь в работе нейросети отсутствует субъект познания, и мы даже не понимаем, как именно сеть приходит к тем или иным результатам.

Для юристов это повод обдумать уровень «тяжести» правого регулирования для state big data, подобрать правовой инструментарий передачи больших данных государства бизнесу наиболее безопасным и справедливым способом.

Для всех это уверенность: большие данные – вот новая нефть, а вовсе не мы с вами!

Автор Артем Подшибякин,
Руководитель юридического департамента и Службы комплаенс группы компаний Inditex Russia