Новый Сканер Изображений и Искусственный Интеллект

by_ix · 26 августа, 2022

Искусственный Интеллект Invision Community теперь может автоматически обнаруживать и отправлять на проверку изображения, не подходящие для вашего форума.

Новый сканер изображений и инструмент обнаружения, встроенный в недавно запущенный раздел Smart Community в Админцентре - эта новая функция искусственного интеллекта, которая сканирует изображения, загруженные пользователями, определяет, какие объекты содержит изображение, а затем решает, уместно ли делиться изображением на форуме.
Если ИИ считает, что изображение содержит что-то взрослое, пикантное, визуально вызывающее беспокойство и/или жестокое, оно либо сохранит изображение для модерации, либо сразу отклонит его.

Если изображение соответствует требованиям проверки и будет опубликовано, на нем будет указано, что оно “может содержать”. Эти термины будут отображаться при наведении курсора на изображение и позволяют изображению появляться в результатах поиска.
Например:

Пороговые значения оценки.
Каждому загруженному изображению присваивается оценка - что считается подходящим, а что нет.

Как ИИ определяет это?
Для каждой из категорий возвращается оценка, указывающая, насколько система уверена в том, что изображение соответствует соответствующей категории. В зависимости от порогового процента вы можете либо отложить публикацию на проверку, либо отклонить изображение.
Если публикуемый контент не может быть отправлен на проверку (например, в личном разговоре), изображение будет отклонено при любом значении.

При выборе процентных значений, чем выше процент, тем увереннее вы хотите, чтобы ИИ сканировал изображения и определял, что содержится на изображении, а также перед тем, как удерживать или отклонять изображение.
Например, если изображение сканируется на наличие контента для взрослых, а порог составляет 75% или выше, платформа сохранит изображение для проверки модератором. Для того же изображения, если достоверность того, что оно содержит контент для взрослых, составляет 85% или более, оно будет отклонено.

Если вы хотите сохранить больше изображений, что приведёт к большей проверки со стороны модератора, вы должны выставить процентные значения на низком уровне.
Например, если изображение сканируется на наличие визуально мешающего содержимого и вероятность того, что оно содержит подобное содержимое, составляет 40% или более, изображение будет отправлено на проверку модератору. Для того же изображения, если уверенность в том, что оно содержит контент для взрослых, составляет 75% или более, оно будет отклонено.

То же самое относится к категориям непристойности и пикантности/насилия и жестокости: