Полезные разборы из ЛигалТех-каналов | неделя 32-33
➡️ [Тестирование моделей, галлюцинации ИИ]
Откуда берутся галлюцинации в юридических ИИ-сервисах: разбор ошибок Стрижа на реальных кейсах
— Стриж | ИИ для юристов
Авторы разбирают механизм галлюцинаций языковых моделей на примере своего сервиса Стриж — почему ИИ уверенно ссылается на несуществующие судебные решения. В анализе использованы независимые тесты юридических ИИ-сервисов и две реальные истории клиентов с ошибками модели. Практический вывод: юристу нужно осознавать системный характер этой проблемы при встраивании ИИ в процесс due diligence и legal research — полная автоматизация без проверки невозможна.
➡️ [Регулирование ИИ, Киберугрозы, Ответственность]
Автономные ИИ-черви и юридическая ответственность: кто платит за паразитический инференс
— Дамасские чернила | AI и M&A
Исследователи продемонстрировали, что компьютерный червь на основе открытой языковой модели может автономно генерировать эксплойты и использовать GPU жертвы для собственных вычислений — новая форма киберпреступления. Автор разбирает три ключевых юридических проблемы: как считать ущерб от краденых вычислительных ресурсов, кто несет ответственность за вредоносное использование открытых моделей (разработчик, пользователь, автор дообучения), и как пересмотреть стандарты cyber-безопасности в корпорациях, если атаки ИИ ускоряются в сотни раз.
➡️ [Работа с ИИ-инструментами, методология]
Наводящие вопросы и LLM: почему ИИ начинает соглашаться вместо анализа
— отсюда и до суда
Автор напоминает о принципе недопустимости наводящих вопросов в праве и проводит аналогию с языковыми моделями: когда юрист формулирует вопрос к ИИ так, чтобы «подсказать» ответ, модель склонна соглашаться и искажать информацию вместо объективного анализа. Это важно учитывать при формулировке запросов к ИИ-инструментам в юридической работе — построение вопроса должно быть нейтральным, иначе результат будет ненадёжным.
@AI_Skrepka
➡️ [Тестирование моделей, галлюцинации ИИ]
Откуда берутся галлюцинации в юридических ИИ-сервисах: разбор ошибок Стрижа на реальных кейсах
— Стриж | ИИ для юристов
Авторы разбирают механизм галлюцинаций языковых моделей на примере своего сервиса Стриж — почему ИИ уверенно ссылается на несуществующие судебные решения. В анализе использованы независимые тесты юридических ИИ-сервисов и две реальные истории клиентов с ошибками модели. Практический вывод: юристу нужно осознавать системный характер этой проблемы при встраивании ИИ в процесс due diligence и legal research — полная автоматизация без проверки невозможна.
➡️ [Регулирование ИИ, Киберугрозы, Ответственность]
Автономные ИИ-черви и юридическая ответственность: кто платит за паразитический инференс
— Дамасские чернила | AI и M&A
Исследователи продемонстрировали, что компьютерный червь на основе открытой языковой модели может автономно генерировать эксплойты и использовать GPU жертвы для собственных вычислений — новая форма киберпреступления. Автор разбирает три ключевых юридических проблемы: как считать ущерб от краденых вычислительных ресурсов, кто несет ответственность за вредоносное использование открытых моделей (разработчик, пользователь, автор дообучения), и как пересмотреть стандарты cyber-безопасности в корпорациях, если атаки ИИ ускоряются в сотни раз.
➡️ [Работа с ИИ-инструментами, методология]
Наводящие вопросы и LLM: почему ИИ начинает соглашаться вместо анализа
— отсюда и до суда
Автор напоминает о принципе недопустимости наводящих вопросов в праве и проводит аналогию с языковыми моделями: когда юрист формулирует вопрос к ИИ так, чтобы «подсказать» ответ, модель склонна соглашаться и искажать информацию вместо объективного анализа. Это важно учитывать при формулировке запросов к ИИ-инструментам в юридической работе — построение вопроса должно быть нейтральным, иначе результат будет ненадёжным.
@AI_Skrepka