Meta AI попросил мать опознать ребёнка в её собственном видео

Что это значит

Приглядитесь к оправданию Meta — это самая интересная фраза во всей истории. «Когда человек нажимает на подсказку и пользуется этой функцией, ответ строится на информации, к которой у пользователя уже есть доступ», — говорит Эль-Кассаби. Формально это правда. И совершенно не в этом суть. У Робинс действительно был доступ к своим постам, к фотографиям с дня рождения у двоюродной сестры, к подписи, где она называла ребёнка по имени. У вас, теоретически, тоже. Просто никто и никогда не сел бы читать восемь лет семейной ленты, чтобы вычислить возраст детей и город, где они живут. Чат-бот делает это за то время, что нужно нажать кнопку.

Барьером был не доступ. Барьером была сборка.

Вот что здесь изменилось — тихо, без единого объявления. Те же разрозненные крошки — имя, произнесённое вслух в видео, школа на заднем плане, пост тёти с отметкой геолокации — раньше оставались разрозненными, потому что собрать их стоило человеческих усилий. Теперь усилие равно нулю, и инструмент сидит прямо под постом, сам подсказывая вопрос. Эль-Кассаби говорит, что функция создавалась, чтобы «помогать людям узнавать больше о темах или постах, которые их интересуют», и что в этом случае Meta AI мог опираться на видео, где Робинс называла детей по именам. Вот над чем стоит задуматься: она действительно их называла. Вслух, в ролике — так, как это сделал бы любой.

И ещё есть фотография. Робинс говорит, что ассистент показал ей снимок, который она удалила несколько лет назад. Что там произошло на самом деле — неизвестно: заявление Meta, процитированное The Verge, отвечает на вопрос о подсказках, но не о фотографии. И этот пробел важнее самих извинений, потому что слово «удалено» — это обещание, на которое опирались миллионы людей, ни разу его не проверив. Это уже вторая функция Meta AI, которую откатывают после публичного возмущения за два месяца: в июле компания убрала инструмент, позволявший делать AI-дипфейки других пользователей Instagram.