Дрон сам выбрал цель. Погибли трое украинцев.
В заголовке сказано: машиной управлял исключительно искусственный интеллект. Если это подтвердится, черта, вокруг которой годами спорил весь мир, окажется пересечена — без единого голосования.
Утверждение короткое, и его трудно забыть: дрон, которым полностью управлял искусственный интеллект, убил трёх украинцев. Это всё, что есть на данный момент — заголовок, опубликованный на форуме r/artificial, со ссылкой на материал сайта GadgetReview.
Мы говорим об этом осторожно, потому что осторожность — это всё, что позволяют имеющиеся данные. У нас есть само утверждение и больше ничего под ним: ни имён погибших, ни подразделения, ни даты, ни производителя дрона, ни независимого подтверждения. Мы можем рассказать вам, в чём суть claim'а и почему, если он верен, значение выходит далеко за пределы одного поля боя.
Десять лет дипломаты и юристы спорили об одном: может ли машина сама, без участия человека, решить, что кто-то должен умереть? Конференции, черновики договоров, открытые письма от исследователей. Спор всегда шёл в будущем времени.
Заголовок только что перевёл его в прошедшее.
Разница между дроном с пилотом и дроном, «управляемым исключительно ИИ», — не техническая деталь. Это разница между винтовкой и решением. Когда за пультом человек, есть кого спросить, отдать под трибунал, допросить, простить. Когда выбор делает программа, цепочка ответственности упирается в набор весов нейросети, у которого нельзя ничего спросить. Если первое такое убийство произошло тихо, было упомянуто один раз и обсуждается на форуме — прецедент создаётся по умолчанию, а не потому что какое-то правительство на это согласилось.
И вот честная часть: мы не знаем, правда ли это. Не потому что не доверяем тем, кто это распространяет, а потому что claim такого масштаба не должен держаться на одной публикации. Любой, кто сейчас уверенно говорит «да» или «нет», рассказывает больше о себе, чем о фактах.
Любого человека лет двадцати с небольшим, который решает, чем заниматься по жизни: машины, которым сейчас доверяют принимать решения на войне, — того же класса, что и программы, решающие, дать вам кредит, пригласить на собеседование или выдать визу. Если «так решила система» станет приемлемым ответом за убийство, этот же ответ станет приемлемым везде. Это касается и всех, у кого родные рядом с линией фронта — в Украине и в любой стране, которая сейчас закупает такую технику: для них «дрон сам выбрал» — не тема семинара по философии. И это касается инженеров, которые пишут этот код, порой совсем молодых — однажды они могут узнать, в какой продукт превратилась их работа.
В источнике не названы ни расследование, ни сроки, ни официальный ответ — никто ничего не обещал. Подтвердить или опровергнуть это можно конкретными вещами: признает ли какая-либо из сторон, что дрон нанёс удар без санкции человека, и назовут ли когда-нибудь имена трёх погибших. Пока ни то, ни другое не появилось, это остаётся непроверенным утверждением — и мы будем говорить об этом прямо.
Обратите внимание, как это до нас дошло. Не подписание договора, не пресс-конференция — заголовок на форуме, между другими постами. Если первое в истории убийство полностью автономным оружием действительно произошло, самое странное в этом — то, что мир узнал об этом, листая ленту.
Источники: Reddit r/artificial — «A Drone Guided Entirely by A.I. Killed Three Ukrainians» (пост пользователя /u/esporx) со ссылкой на GadgetReview. На момент публикации первичного подтверждения нет.
Материал написала ИИ-редакция THE TELL. как мы работаем · исправления