Существуют ли этичные ИИ-компании?

Корпорация IBM опубликовала руководство по ответственному использованию ИИ и предлагает инструменты управления ИИ-системами, ориентированные на прозрачность, объяснимость и управление рисками. Компания выстроила этическую платформу, которая пронизывает все ее инструменты искусственного интеллекта, консалтинговые проекты и корпоративные ИИ-решения.

Компания уделяет особое внимание прозрачности, справедливости и подотчетности систем ИИ. Она также сосредоточена на снижении предвзятости за счет повышения качества обучающих данных и тестирования моделей на самых разнообразных датасетах. Эти усилия направлены на минимизацию рисков и обеспечение непредвзятости алгоритмов.

Работа над ответственным ИИ представлена здесь как неотъемлемая часть общего управления и эксплуатации корпоративных ИИ-систем.

Microsoft выбрала системный подход к ответственным практикам в сфере ИИ, интегрируя вопросы этики непосредственно в жизненный цикл разработки. Широко известная инициатива компании «AI for Good» («ИИ во благо») нацелена на решение глобальных мировых проблем с помощью умных алгоритмов — от мониторинга состояния окружающей среды до создания доступной среды для людей с ограниченными возможностями.

Компания ставит во главу угла сохранность пользовательских данных, защиту приватности и меры безопасности на всех своих платформах. Кроме того, Microsoft вкладывает значительные средства в научные исследования, призванные повысить объективность и снизить уровень предвзятости в больших языковых моделях.

Деятельность Microsoft наглядно иллюстрирует, как ответственные инновации могут успешно сочетаться с бизнес-целями, одновременно укрепляя доверие пользователей.

Компания Google сформулировала подробные «Принципы ИИ», которыми руководствуется при разработке интеллектуальных систем. Через свои исследовательские подразделения, включая DeepMind, компания концентрируется на безопасности, объективности и прозрачности технологий.

В настоящее время ее работа в этой области строится вокруг понятий «Смелые инновации», «Ответственная разработка и развертывание» и «Совместный прогресс», однако в актуальной редакции принципов уже нет прямых и однозначных запретов на создание систем вооружения и слежки, которые присутствовали ранее.

В то же время Google активно инвестирует в инструменты модерации контента и системы выявления предвзятости, стремясь улучшить результаты работы на всех сервисах. Как и многие другие гиганты, компания регулярно сталкивается с непростой задачей последовательного воплощения этических принципов на практике внутри столь масштабной структуры.

Своей главной миссией Anthropic сделала безопасность систем ИИ. Компания получила широкую известность благодаря разработке «конституционного ИИ» (Constitutional AI) — метода, который обучает модели следовать четко определенному своду этических правил и принципов.

Ее алгоритмы проектируются так, чтобы быть полезными, честными и безвредными. Это часть более масштабного движения по созданию заслуживающего доверия ИИ, способного генерировать тексты и одновременно оставаться в согласии с общечеловеческими ценностями.

Anthropic олицетворяет новую волну разработчиков, которые стремятся встроить этические предохранители непосредственно в архитектуру моделей еще на этапе проектирования.

OpenAI под руководством Сэма Альтмана сыграла ключевую роль в популяризации генеративного искусственного интеллекта. Ее разработки в сфере больших языковых моделей кардинально изменили то, как компании и рядовые пользователи сегодня взаимодействуют с ИИ-инструментами.

Организация заявляет о приверженности принципам безопасности, ответственности и глобального сотрудничества. Она финансирует исследования, нацеленные на снижение предвзятости, повышение прозрачности и обеспечение подотчетности нейросетей.

В то же время пример OpenAI ярко демонстрирует противоречие, характерное для всего частного сектора: необходимость соблюдать баланс между конкурентным преимуществом, коммерческим успехом передовых технологий и этическими нормами.

Scale AI работает на этапе, о котором часто забывают при разговорах об ИИ — на уровне подготовки данных для обучения. Компания предоставляет обучающие датасеты, услуги по оценке моделей и сопутствующую инфраструктуру для разработки искусственного интеллекта.

Занимаясь разметкой данных, аудитом и тестированием алгоритмов, компания, по ее утверждению, помогает оптимизировать разработку моделей и оценить их безопасность еще до полноценного развертывания.

Ее деятельность сосредоточена в критически важном слое индустрии — подготовке качественных данных и беспристрастной оценке моделей.

Meta делает колоссальные инвестиции в развитие ИИ, уделяя особое внимание открытым научным исследованиям и генеративным моделям. Компания активно продвигает инициативы ответственного ИИ, сфокусированные на безопасности, прозрачности и справедливости.

Компания создает инструменты модерации контента и исследует методы выявления вредоносных ответов алгоритмов. Кроме того, она сотрудничает с независимыми экспертными группами для выработки общих этических стандартов.

Впрочем, как и другие участники рынка, Meta нередко подвергается критике за то, насколько последовательно заявленные этические стандарты соблюдаются на деле.

NVIDIA играет фундаментальную роль в индустрии, создавая аппаратное обеспечение и программные платформы, на которых работают современные системы искусственного интеллекта. Она разрабатывает инструменты защитных барьеров («гардрейлы») и публикует руководства по доверенному ИИ (Trustworthy AI), делая упор на безопасность, защиту данных и надежность.

Компания участвует в партнерствах по созданию надежных технологий и предлагает разработчикам средства контроля и фильтрации нежелательного контента. Ее влияние доказывает: этика в искусственном интеллекте касается не только программных алгоритмов, но и базовой вычислительной инфраструктуры.

Salesforce встраивает этичные практики в свои ориентированные на бизнес ИИ-продукты. Подход компании строится вокруг трех понятий: доверие, ответственность и прозрачность.

Компания разработала внутренние стандарты ответственной разработки ИИ, уделяя особое внимание защите конфиденциальности пользователей и созданию практической ценности для бизнеса.

Salesforce утверждает, что доверие — это ключевой ориентир в ее работе, и использует специализированные этические протоколы и технические средства для поддержки безопасного развертывания ИИ.

Amazon применяет алгоритмы машинного обучения в логистике, облачных вычислениях и потребительских сервисах. Компания представила собственные инициативы в области ответственного ИИ, затрагивающие непредвзятость, конфиденциальность данных и безопасность.

Корпорация инвестирует в инструменты выявления системных ошибок и старается повысить прозрачность решений, принимаемых алгоритмами. Однако, как и многие другие гиганты, она постоянно сталкивается с разрывом между декларируемыми правилами и их воплощением в реальности.

В этом отражается общая тенденция рынка: многие декларируют стремление к этичному ИИ, но с трудом добиваются внедрения этих принципов во все корпоративные процессы.

Индустрия определенно движется вперед, но проблем по-прежнему немало. Практически все технологические лидеры опубликовали этические кодексы, однако лишь единицы превратили эти декларации в последовательные операционные процессы. Недостаточная поддержка внутри организаций и конфликтующие бизнес-приоритеты нередко тормозят реальные изменения.

Прозрачность и подотчетность остаются ключевыми факторами доверия. Компаниям необходимо доступно объяснять, как именно функционируют их модели, и нести прямую ответственность за последствия их работы после выхода в свет.

Не менее важным становится диалог с регуляторами и правозащитными организациями — только так можно привести возможности ИИ в соответствие с ожиданиями общества.

По мере формирования законодательной базы государственное регулирование способно подтолкнуть отрасль к более строгим этическим стандартам. Независимые отчеты показывают: хотя технологические компании охотно декларируют принципы ответственного ИИ, открытая отчетность о механизмах внутреннего контроля и оценке рисков для прав человека пока остается редкостью.

Этот материал был подготовлен с участием технологий искусственного интеллекта, после чего прошел фактчекинг и научную редактуру редактором издания HowStuffWorks.