Instagram будет использовать ИИ для защиты от агрессии в фотографиях и комментариях

В прошлом году Instagram представил использующий машинное обучение расширенный фильтр для комментариев, чтобы выявлять оскорбительные слова и фразы в сложном контексте. Теперь компания применяет аналогичный подход к фотографиям и подписям.

Так, уже объявлено об использовании ИИ, чтобы «заблаговременно обнаруживать издевательства» перед отправкой контента для обзора модератору. Новая функция будет предоставлена пользователям в ближайшие недели. Эта же самая технология также будет добавлена к видеосюжетам, чтобы фильтровать комментарии.

Это первый анонс продукта после прихода нового главы Instagram Адама Моссери, который пришел на этот пост после поспешного ухода в прошлом месяце основателей Кевина Систрома и Майка Кригера. Как сообщается, раскол произошел из-за сохраняющейся напряженности между этой парой администраторов и материнской компанией Facebook, которая часто вмешивается в деятельность Instagram.

С падением общественного доверия к Facebook, Instagram остается ярким пятном в линейке продуктов компании. Этот ресурс сохраняет популярность и прибыльность, он еще не запятнан скандалами, которые подрывают доверие к Facebook. В этом контексте очень важно использование ИИ для того, чтобы помочь в отсеивании информации оскорбительного характера и сохранить Instagram как вместилище хорошего настроения и положительных эмоций.

Примечательно то, что Instagram будет вести не просто анализ комментариев к фото, но и непосредственно контролировать само фото. Примером выявленного ИИ потенциального хулиганства могут служить сравнительные изображения на экране, когда один человек может негативно сравниваться с другим. Какие еще факторы будет искать ИИ, пока не ясно.

Вместе с новыми фильтрами Instagram также запускает «эффект доброй камеры», который призван нести позитивный настрой и повышать вовлеченность пользователей. При использовании задней камеры, эффекты заполняют экран наложением добрых комментариев на многих языках. Переключившись на фронтальную камеру, вы получите мерцающие сердца и вежливое напоминание: «отметить друга, которого вы хотите поддержать».