ИИ & Право

📎 Сохраните себе в заметки серию постов по работе с нейросетями и искусственным интеллектом:

✔️ Правовая сторона регулирования сгенерированных объектов: что говорит российское законодательство?
✔️ Дипфейки в российском кино: законно ли это и у кого просить разрешения?
✔️ Инструкции по использованию нейросетей: рекомендации и меры предосторожности
✔️ Как избежать рисков, связанных с ИИ: 4 пункта, на которые стоит обратить внимание
✔️ Маркировка объектов, созданных при помощи нейросетей: к чему призывает инициатива Госдумы?
✔️ Громкие скандалы с дипфейками: реальные преступления и репутационные риски
✔️ Права на объекты, сгенерированные ИИ: кому принадлежат?

🇺🇸 В Калифорнии представлен законопроект для защиты детей при общении с чат-ботами

Новый законопроект Калифорнии SB 243 требует, чтобы компании, разрабатывающие ИИ, регулярно напоминали детям, что чат-боты не являются людьми. Проект направлен на борьбу с "зависимостью, социальной изоляцией и влиянием" подобных технологий.

Кроме того, законопроект обязывает ИИ-компании предоставлять ежегодные отчёты о случаях, когда чат-боты выявляют суицидальные мысли у несовершеннолетних, а также предупреждать пользователей о том, что некоторые ИИ-системы могут быть небезопасны для детей. Инициатива появилась после судебных исков против Character.AI, обвиняемой в нанесении вреда подросткам.

#ИИ #Чатботы #Калифорния

🇪🇺 В ЕС опубликовано руководство по запрещённым ИИ практикам

Европейская комиссия выпустила проект руководства по практикам ИИ, запрещённым в соответствии с Законом ЕС об ИИ (EU AI Act). В документе определены технологии, признанные недопустимыми из-за угрозы основным правам человека и европейским ценностям.

Хотя документ не является обязательным, он содержит юридический анализ и практические примеры для соблюдения норм.

#AIRegulation #AIAct

🇪🇺 Новый анализ защиты персональных данных и генеративного ИИ

📥 Еще одна интересная публикация от Cambridge Forum on AI: Law and Governance "Generative AI and Data Protection" рассматривает проблему конфликта между обучением ИИ на больших данных и законами ЕС о защите персональной информации.

Как найти баланс между массовой обработкой данных и фундаментальным правом человека на конфиденциальность? Крупные языковые модели, используя данные из значительной части интернета, неизбежно обрабатывают персональные данные, подпадающие под действие GDPR. Это вызывает проблемы с защитой прав субъектов данных и законностью их обработки.

#AIRegulation #DataProtection #GDPR #GenAI #CambridgeForum

🇦🇺 Австралия: Верховный суд Нового Южного Уэльса установил строгие правила для использования ИИ в судебных процессах

Верховный суд Нового Южного Уэльса обновил Практическое руководство SC Gen 23, содержащее строгие требования к использованию генеративного ИИ в судебных разбирательствах. С 3 февраля 2025 года все юридические документы, подготовленные с помощью ИИ, должны включать подтверждение того, что судебная практика, законодательные ссылки и цитаты корректны и актуальны. Эти меры направлены на борьбу с «галлюцинациями» ИИ и распространением дезинформации.

Судья Эндрю Белл также ввел частичные запреты на использование ИИ юристами, сторонами и даже судьями, подчеркнув, что «судебная деятельность в нашем обществе – это человеческая задача».

#AIRegulation #LegalTech #GenerativeAI #NSWCourt

🇪🇺 Новые перспективы регулирования ответственности ИИ от Cambridge Forum on AI

Вышел первый выпуск публикаций от Cambridge Forum on AI: Law and Governance, который посвящен правовому регулированию генеративного ИИ в ЕС. Рассматриваемый вопрос: охватывают ли действующие и разрабатываемые нормы всю ответственность за ущерб, причиненный ИИ?

📥 В статье "Mapping Generative AI rules and liability scenarios in the AI Act, and in the proposed EU liability rules for AI liability" анализируется подход Закона ЕС об ИИ к регулированию генеративных моделей, включая распределение ответственности. Также рассматривается эффективность предложенных мер в Директиве ЕС об ответственности за ИИ и Обновленной Директиве ЕС о продуктовой ответственности в реальных ситуациях.

#AIRegulation #GenAI #Liability #AIAct #CambridgeForum

🇨🇳 DeepSeek вызывает вопросы конфиденциальности, этики и интеллектуальной собственности

За считанные дни после запуска китайский DeepSeek столкнулся с серьезными опасениями в отношении конфиденциальности данных, интеллектуальной собственности и национальной безопасности:

1️⃣ OpenAI обвинил DeepSeek в "незаконном извлечении знаний" из своих моделей, что может нарушать условия использования и интеллектуальные права.

2️⃣ Итальянское Управление по защите данных проводит расследование в связи с "возможными угрозами безопасности персональных данных пользователей". Не удовлетворившись ответом, регулятор принял решение о блокировке DeepSeek в Италии.

3️⃣ ВМС США выпустили официальное предупреждение, запретив использование DeepSeek из-за "потенциальных проблем с безопасностью и этикой".

Кроме того, в политике конфиденциальности DeepSeek указано, что данные пользователей могут храниться на серверах в Китае. Это уже вызвало широкую критику, которая может ограничить глобальную экспансию платформы.

#ИИ #Конфиденциальность #ЗащитаДанных #ИнтеллектуальнаяСобственность #РегулированиеИИ

🇺🇸 Бюро по авторским правам США готово защищать произведения, созданные с помощью ИИ

Бюро по авторскому праву США разъяснило, что произведения искусства, созданные с помощью ИИ, могут быть защищены авторским правом — но только если в них присутствует достаточный уровень человеческого творчества. Бюро опубликовало вторую часть отчета об ИИ, в котором подтвердило, что авторское право может применяться к новым технологиям, однако ключевым остается человеческое авторство. Простого ввода текстового запроса (prompt) недостаточно, но если человек "модифицирует, структурирует или творчески интегрирует ИИ-контент", он может претендовать на защиту авторских прав.

При этом Бюро отказалось распространять авторские права на полностью ИИ-сгенерированный контент, подчеркнув, что закон о копирайте существует "для защиты человеческого творчества, а не машинного контента".

#ИИ #АвторскоеПраво

🇺🇸 Компания CharacterAI представила аргументы в свою защиту в деле о самоубийстве подростка из Флориды

CharacterAI официально ответила на иск, связанный с трагическим случаем самоубийства подростка из Флориды, который общался с одним из её ИИ-чатботов.

Защита компании, помимо прочего, утверждает, что доступ к ИИ-чат-боту, это услуга, а не материальный продукт, а предполагаемый вред связан с «нематериальным контентом». В связи с этим, по мнению компании, ответственность за некачественный продукт (Product Liability) не применима.

CharacterAI также отрицает обвинения в халатности в связи с отсутствием «особых отношений» или физического контроля над пользователем.

#ИИ #CharacterAI

🇬🇧 Пол Маккартни призывает правительство Великобритании защищать авторские права в эпоху искусственного интеллекта

В своем недавнем интервью Пол Маккартни призвал правительство Великобритании принять меры в защиту творческих профессионалов. Он раскритиковал предложения, которые позволят разработчикам искусственного интеллекта использовать контент авторов без их предварительного согласия (при отсутствии прямо выраженного запрета).

«Когда вы принимаете законопроект, убедитесь, что вы защищаете творческих работников, иначе у вас ничего не останется», - предупредил Маккартни.

#ИИ

🇪🇺 Крупные технологические компании устанавливают собственные стандарты ИИ

Исследовательская группа Corporate Europe Observatory опубликовала обзор, в котором утверждается, что европейские органы по установлению стандартов ИИ в значительной степени находятся под контролем представителей технологической отрасли. Расследование показывает, как такие крупные корпорации, как Oracle, Microsoft, Amazon, Huawei, IBM и Google, активно участвуют в разработке стандартов работы с ИИ в рамках Закона ЕС об ИИ.

Исследование, основанное на экспертных интервью, анализе социальных сетей и публичных документах, демонстрирует, как крупные частные организации фактически создают правила, которые будут иметь правовой статус в ЕС, за закрытыми дверями. В то время как технологические компании представляют свое участие в разработке стандартов как чисто технический процесс, расследование утверждает, что это в высшей степени политический процесс, который может повлиять на важные решения в области регулирования ИИ в Европе.

В отчете подчеркивается, что независимые эксперты и организации гражданского общества значительно уступают по численности и ресурсам корпоративным представителям. Этот дисбаланс вызывает опасения, что отраслевые стандарты в итоге ослабят изначально задуманные для защиты граждан нормы Закона ЕС об ИИ.

#AIAct

🌐 Генеративный ИИ и патенты

Всемирная организация интеллектуальной собственности опубликовала новый Отчёт о патентном ландшафте генеративного ИИ. Отчет демонстрирует стремительный рост инноваций в области генеративного ИИ. С 2014 года было зарегистрировано более 54 000 изобретений и опубликовано 75 000 научных статей на эту тему. Только в 2023 году было подано свыше 25% всех патентов на технологии генеративного ИИ, что подчёркивает ускорение развития этой области.

Хотя патенты, связанные с генеративным ИИ пока составляют лишь 6% от общего числа патентов на ИИ, их разнообразие впечатляет. Лидируют решения, связанные с обработкой изображений и видео (17 996 изобретений), за ними следуют текстовые и речевые/музыкальные приложения. Сферы применения охватывают всё: от биологии до транспорта.

Среди ведущих изобретателей — Tencent, IBM, Microsoft и Samsung. "Китай является глобальным лидером по числу патентов", с 38 000 заявок — это в шесть раз больше, чем в США.

#ГенеративныйИИ #Патенты

🇺🇸 Патентное бюро США опубликовало новую ИИ-стратегию

Патентное бюро США (The U.S. Patent and Trademark Office, USPTO) опубликовало свою Стратегию в области искусственного интеллекта. Своей целью бюро провозглашает «раскрыть потенциал Америки посредством внедрения ИИ для стимулирования и масштабирования инноваций США, инклюзивного капитализма и глобальной конкурентоспособности».

В рамках стратегии анонсированы следующие направления деятельности USPTO в области ИИ:

✔️ Продвижение разработки политик защиты интеллектуальной собственности, которые способствуют инклюзивным инновациям и креативности ИИ.
✔️ Создание лучших возможностей для ИИ путем инвестирования в цифровую инфраструктуру, ресурсы данных и разработку продуктов, ориентированных на бизнес.
✔️ Продвижение ответственного использования ИИ в USPTO и в более широкой инновационной экосистеме.
✔️ Развитие экспертизы в области ИИ среди сотрудников USPTO.
✔️ Сотрудничество с другими правительственными агентствами США, международными партнерами и общественностью по общим приоритетам в области ИИ.

#AI #AIPatent

🇺🇸 Apple приостанавливает функцию новостных заголовков на основе ИИ

Apple временно отключила функцию резюме новостей в Apple Intelligence после случаев, когда ИИ система генерировала вымышленные заголовки, включая ложные сообщения об арестах и смертях. Эта функция, запущенная в сентябре вместе с iPhone 16, предназначалась для сжатия нескольких уведомлений в краткие резюме, но быстро вызвала критику со стороны крупных новостных изданий, таких как BBC и The Washington Post.

BBC выразила озабоченность ещё в декабре, указав на критические ошибки в экстренных новостях и предупредив, что инструмент противоречит оригинальным сообщениям и подрывает доверие общественности. В ответ Apple объявила о планах повысить прозрачность, чётко маркируя резюме, созданные ИИ, и предоставляя пользователям больше контроля над функцией.

Этот инцидент иллюстрирует риски внедрения ИИ-решений без тщательного тестирования в таких чувствительных областях, как журналистика.

#ИИ #Apple #ИИЭтика

🇺🇸 Компания Microsoft обратилась в суд в связи с нарушением условий эксплуатации её ИИ-систем

Microsoft подала два иска, направленных против сложной схемы, позволявшей обходить защитные механизмы в её генеративных ИИ-системах. Первый иск направлен против трёх человек, которых обвиняют в создании "сервиса взлома по подписке". Как следует из пресс-релиза компании, эти лица разработали инструменты для использования недокументированных API, взламывали учетные записи легальных клиентов и создали платную платформу для генерации вредоносного и запрещенного контента.

Второй иск подан против десяти человек, которые были клиентами сервиса Microsoft. Как утверждает истец, злоумышленники предоставляли подробные инструкции по обходу ограничений компании, позволяя создавать запрещённый контент, включая вредоносные и дискриминационные материалы. Microsoft утверждает, что платформа использовала украденные API-ключи и прокси-серверы для имитации легитимных запросов, подрывая работу её ИИ-систем.

Оба иска, поданные в суд штата Вирджиния, ссылаются на нарушения Закона о мошенничестве и злоупотреблении компьютерами (Computer Fraud and Abuse Act, CFAA), Закона об авторском праве в цифровую эпоху (Digital Millennium Copyright Act, DMCA) и другие правовые нормы.

#ИИ #Кибербезопасность #Microsoft

🇬🇧 Великобритания ищет «Третий путь» в регулировании ИИ

Премьер-министр Великобритании призвал сделать страну следующим глобальным центром ИИ, используя отличные от США и ЕС подходы к регулированию. С одной стороны - отказ от либерального подхода США, с другой - от жестких норм ЕС. Предложение Премьер-министра предполагает поиск «третьего пути». Однако эта идея выглядит проблематичной: почему инвесторы в ИИ выберут британскую модель, которая сочетает ограничения для инноваций без преимуществ доступа к рынкам ЕС или свободы действий, как в США?

В настоящее время в регулировании ИИ наблюдаются три основных тенденции:

1️⃣ Американская модель, где минимальные регуляторные барьеры ставят инновации на первый план.

2️⃣ Европейская модель, ориентированная на соблюдение стандартов и ответственность.

3️⃣ Китайская модель, сфокусированная на централизованном контроле в рамках авторитарных систем.

Какой новый подход выберет Великобритания, пока не ясно.

#ИИ