«Искусственное правосудие» (2024, Justicia artificial): Конфликт человека и технологий.

Юридический научно-фантастический триллер «Искусственное правосудие», снятый режиссёром Симоном Касалем, исследует влияние искусственного интеллекта на правовую систему. Однако, как мне показалось, сценарий не оставляет места для размышлений о преимуществах ИИ, четко подчеркивая, что человек всегда стоит на первом месте. Именно человек управляет «роботом», а не наоборот. Внедрение искусственного интеллекта здесь служит прикрытием для масштабного заговора, направленного на установление тотального контроля, затрагивающего не только судебную систему, но и всю страну в целом.

“Искусственное правосудие” – это второй полнометражный фильм Симона Касаля, который был официально представлен 13 сентября в Испании. Его карьера в аудиовизуальной сфере началась с работы фотографом в рекламных проектах, а также участия в различных фотоконкурсах (ElPais, Fnac, Xunta de Galicia). В начале 2010-х Касаль решил переключиться на кинематограф, начал писать сценарии и снимать короткометражные фильмы. Его дебют в полнометражном кино состоялся в октябре 2015 года с триллером “Грязные волки” (Lobos sucios).

Сюжет

События фильма происходят в обозримом будущем. В испанских судах для вынесения приговоров применяется специальное программное обеспечение, которое помогает формировать вердикт. Однако окончательное решение всё ещё принимает судья.

После предстоящего референдума, касающегося внедрения искусственного интеллекта в судебную систему, решения, принимаемые ИИ, перестанут быть лишь рекомендациями. Цель интеграции ИИ в правосудие заключается в автоматизации процессов, ускорении принятия решений и возможности обрабатывать дела в три раза быстрее по сравнению с человеческим участием. Кроме того, это должно способствовать снижению влияния политики на правосудие. Разработчики программного обеспечения утверждают, что ИИ не заменит людей, а станет их помощником.

Создательница программного обеспечения THENTE, Алисия Ковак, выступает против презентации своего продукта, считая его недостаточно готовым и требующим значительных доработок. В связи с этим она просит перенести дату референдума, несмотря на настойчивые требования председателя и операционного директора компании, в которой она работает, о запуске. Для решения этой ситуации Алисия обратилась к судье Кармен Коста с просьбой провести аудит и протестировать ПО. Она очень доверяет Кармен и возлагает на неё ответственность за окончательное решение о внедрении THENTE. Это пожелание имеет юридическую силу и было оформлено соответствующим образом.

Незадолго до референдума Алисия трагически погибает в автомобильной аварии. Это вызывает удивление, поскольку происшествия с автомобилями, оборудованными системой автономного управления, случаются крайне редко.

Мои мысли и впечатления после просмотра

Искусственный интеллект набирает всё большую популярность. От простого развлекательного инструмента для создания изображений он трансформируется в полноценного коллегу.

В Нью-Йорке прошла премьера спектакля «McNeal», в котором главную роль писателя Джейкоба МакНила исполняет Роберт Дауни-младший. Его персонаж испытывает глубокую любовь к творчеству Уильяма Шекспира, а также испытывает необычное увлечение искусственным интеллектом. На сцене, помимо Реального актёра, появляется удивительно реалистичное цифровое воплощение человека. Автор пьесы, на основе которой поставлен спектакль, во время написания проводил эксперименты с различными языковыми моделями, включая ChatGPT.

Это искусство, и кажется, что это вполне допустимо, когда творческий человек использует искусственный интеллект (в разумных пределах) в процессе создания нового текста. Кроме того, в качестве черты главного героя можно добавить его увлечение современными технологиями.

Непередаваемое чувство тревоги охватывает, когда искусственный интеллект начинает вмешиваться в систему правосудия. Фильм ставит затруднительный вопрос: готовы ли вы доверить вынесение решений в суде машинам, обладающим искусственным интеллектом? Или, наоборот, предпочтете, чтобы финальное слово осталось за человеком? Но если ИИ возьмется за управление вердиктами, каким образом мы будем определять ответственность? Получается, что для человека это понятие окажется никчемным?

Хотя название триллера «Искусственное правосудие» предполагает использование искусственного интеллекта в судебной системе, на самом деле это скорее игра слов. Оно намекает на то, что людям подают ilusии улучшения и деполитизации, в то время как за сложными алгоритмами и запутанными терминами скрывается простая жажда власти отдельных индивидов.

Получение контроля над системой правосудия подразумевает создание условий для безнаказанного совершения преступлений разного характера. «Приручение» правосудия становится новым уровнем власти и невозмездности. В триллере «Подай знак» наблюдается ситуация, когда сознание отдельной жертвы подавляется, чтобы она не могла обратиться в полицию против своего обидчика; этот случай можно рассматривать как обходной путь для защиты от уголовного преследования. В то время как внедрение программного обеспечения с алгоритмами оценки вины в судебную систему становится способом «ослепления» самого правосудия.

В этом триллере, помимо дебатов о том, что THENTE еще не готово, но его все равно нужно внедрять, развивается детективное расследование – причины смерти автора THENTE, Алисии Ковак, которая трагически погибла незадолго до референдума. Судья Кармен Коста принимает на себя задачу выяснить правду, обнаруживая, что многие готовы молчать и продавать свои идеалы, когда речь заходит о власти.

Образ судьи Кармен Коста символизирует важность человеческой судьбы. Она озвучивает мнения, с которыми трудно оспаривать. В сценарии для её персонажа заложена тема материнства – она стремится забеременеть. Однако, поскольку искусственный интеллект используется не только в судебных делах, но и в медицине, врач сообщает Кармен, что ей следует прекратить попытки, так как эмбрион не приживается. Это заключение основывается на выводах ИИ. В итоге, она принимает решение продолжать попытки, утверждая, что программное обеспечение не должно решать за неё.

В начале сюжета Кармен демонстрирует своё отношение к искусственному интеллекту, отвергнув рекомендации системы при вынесении решения по делу хакера Хесуса Альмейды. Несмотря на то что ПО признало его виновным, Кармен пришла к обратному выводу. Она считает, что решения, принимаемые искусственным интеллектом, основаны на устаревшей информации, и они не могут правильно оценивать ситуацию для вынесения корректных выводов. По её мнению, такие системы, не обладая способностью к эволюции и созданию новой судебной практики, будут всегда опираться на прошлый опыт, тем самым повторяя его ошибки. Образ Кармен Коста, занимающейся расследованием гибели Алисии, автора THENTE и выступающей против ИИ, символизирует противостояние людей и технологий.

Наиболее напряженный момент возникает, когда становится известно, что некоторые важные личности, участвующие в разработке программного обеспечения, могут получать особые привилегии, что противоречит обещанному объективному процессу принятия решений. Это открытие подчеркивает, что “искусственное правосудие” — вещь сомнительная, и хотя технологии могут демонстрировать большую точность, с человеческой точки зрения они зачастую оказываются менее справедливыми.

***

Новость об этом фильме:

Мы в телеграм: https://t.me/kinobimbers