7 мин
ИИ-свидетели в апелляции по делу об убийстве
Адвокат Стивен Ааронс 9 сентября был признан виновным в неуважении к суду из-за использования в апелляции сфабрикованных данных. Он представлял интересы клиента, осужденного пожизненно за убийство, и применил языковую модель для подготовки краткого изложения материалов дела. Вместо резюме система сгенерировала так называемые «галлюцинации» — правдоподобные, но полностью вымышленные факты.
В поданном документе фигурировали показания четырех несуществующих свидетелей, в том числе двух вымышленных полицейских. Реальным участникам процесса также были приписаны ложные утверждения об угрозах со стороны осужденного и деталях внешности стрелявшего. Ааронс признал, что подписал и направил текст в суд без проверки фактов и правовых ссылок.
Позиция суда: незнание рисков ИИ не является оправданием
В ходе слушаний Стивен Ааронс утверждал, что не был осведомлен о способности нейросетей генерировать ложную информацию. Он пояснил, что загрузил в чат-бот материалы дела, ожидая получить *«безупречное резюме»*, а не вымысел. Адвокат назвал произошедшее «добросовестной ошибкой» без намерения ввести суд в заблуждение.
Судьи отклонили эти аргументы, подчеркнув, что ответственность за проверку точности любого судебного документа лежит исключительно на юристе, который его подписывает. Позиция суда была однозначной: независимо от того, какой инструмент использовался для подготовки — ИИ, стажер или другой специалист, — итоговая проверка остается за адвокатом. Один из судей прямо указал Ааронсу на то, что случаи с ИИ-галлюцинациями в юридической практике широко освещаются в СМИ.
Санкции и последствия для адвоката
Решение суда повлекло за собой ряд немедленных мер в отношении Стивена Ааронса и дальнейшего рассмотрения дела.
- Штраф: На адвоката наложен штраф в размере **$5000**. Средства должны быть перечислены в фонд защиты клиентов адвокатской палаты в течение 30 дней.
- Дисциплинарное производство: Материалы переданы в дисциплинарную комиссию для дальнейшего разбирательства, которое может повлечь дополнительные санкции.
- Временный запрет: Ааронсу временно запрещено выступать в Верховном суде штата до завершения расследования.
- Пересмотр дела: Все ранее поданные апелляционные документы были аннулированы. Суд поручил службе государственных защитников назначить осужденному нового адвоката для подготовки корректной апелляции.
Ответственность юристов при работе с ИИ
Этот инцидент подтверждает растущую проблему неконтролируемого применения генеративного ИИ в юриспруденции. Решение по делу Ааронса укрепляет судебную практику, согласно которой юристы несут полную ответственность за контент, созданный с помощью нейросетей, и не могут ссылаться на «ошибку машины».
Случай демонстрирует ключевые риски для профессионалов, использующих ИИ:
- Ответственность за верификацию фактов всегда остается на человеке.
- Генеративные модели следует рассматривать как инструмент для создания черновиков, а не как источник достоверных данных.
- Суды все чаще расценивают «незнание» о рисках ИИ не как смягчающее обстоятельство, а как признак профессиональной некомпетентности.
Частые вопросы
Какие именно ошибки привели к штрафу для адвоката?
Адвоката оштрафовали за подачу в суд документа с вымышленными фактами, сгенерированными. Нейросеть создала показания четырех несуществующих свидетелей, включая двух вымышленных полицейских, и приписала ложные показания реальным участникам процесса.
Принял ли суд оправдание адвоката о незнании рисков ИИ?
Нет, суд отклонил его доводы. Адвокат утверждал, что не знал о способности ИИ выдумывать факты, но судьи подчеркнули, что незнание рисков больше не является оправданием и свидетельствует о профессиональной некомпетентности.
Какие санкции применили к юристу кроме денежного штрафа?
Кроме штрафа в $5000, дело юриста передали в дисциплинарную комиссию. Ему также временно запретили выступать в Верховном суде штата, а все поданные с помощью ИИ документы были аннулированы, и его клиенту назначили нового защитника.
