AI Chat Moderation

AI Chat Moderation - это плагин для Minecraft, который решает вечную проблему любого сервера: токсичный чат. Вместо того чтобы нанимать модераторов или полагаться на примитивные списки запрещенных слов, этот инструмент использует искусственный интеллект для анализа сообщений в реальном времени. Он автоматически определяет оскорбления, угрозы, спам и другой нежелательный контент, причем работает на нескольких языках сразу.

По сути, это умный фильтр, который не тупо банит по ключевым словам, а понимает контекст. Например, если кто-то пошутил про "убить дракона" в Энде - AI Chat Moderation не среагирует, а вот прямую угрозу в адрес игрока - засечет.

Как это работает

Плагин анализирует каждое сообщение через нейросеть (можно выбрать OpenAI, Mistral или Detoxify). Если контент попадает под одну из категорий нарушений, плагин может:

• Скрыть сообщение от других игроков
• Отправить предупреждение нарушителю
• Выполнить любую команду (вплоть до кика или бана)
• Записать инцидент в консоль

Важный момент: проверка может происходить как до отправки сообщения (с задержкой ~0.3 сек), так и после. Второй вариант быстрее, но сообщение уже увидят - правда, его можно скрыть постфактум.

Что умеет определять

Плагин покрывает 12 категорий вредоносного контента: домогательства, разжигание ненависти, угрозы, насилие, сексуальный контент (в том числе с участием несовершеннолетних), призывы к самоповреждению, опасные и криминальные темы, разглашение личных данных (PII), а также токсичность, оскорбления и непристойности.

Для каждой категории можно настроить порог срабатывания (confidence) от 0.0 до 1.0. Значение 0.85 - золотая середина: ловит реальные нарушения, но не спамит ложными срабатываниями.

Установка и настройка

Ставится элементарно: кидаешь .jar в папку plugins и перезапускаешь сервер. Никаких API-ключей создавать не нужно - все работает из коробки. Правда, сообщения могут кешироваться на серверах разработчика для оптимизации производительности.

Конфиг в YAML довольно объемный, но разобраться несложно. Главные моменты:

# Черный список слов без ИИ (на всякий случай)
blacklisted-words:
  - плохое слово
  - еще одно

# Выбор провайдера: DETOXIFY (быстрый), OPENAI (точный), MISTRAL (лучше для русского и арабского)
providers: [DETOXIFY, OPENAI]

# Настройка порогов для каждой категории
categories:
  harassment:
    detection: true
    actions:
      warn:
        confidence: 0.80
        hideMessage: true
        commands:
          - "SEND_MESSAGE &6%player% &cНе используйте оскорбления."

Команды и права

• /acm reload - перезагрузить конфиг (право acm.reload)
• /acm debug - показать confidence каждого сообщения для тонкой настройки (право acm.debug)
• acm.bypass - обход проверок (по умолчанию у операторов)

Для кого это

Если у тебя сервер на 20+ человек и ты устал банить токсиков вручную - AI Chat Moderation реально сэкономит время. На маленьких серверах можно обойтись и стандартными фильтрами, но тут главный плюс - адаптивность под разные языки и контекст. Особенно полезно для русскоязычных серверов, где мат и оскорбления часто маскируют или пишут с ошибками - Mistral с этим справляется лучше всего.

Единственный минус - задержка при проверке до отправки. На мощном железе она незаметна, но если сервер и так тормозит, лучше использовать режим проверки после отправки.

В целом, AI Chat Moderation - это must-have для любого публичного сервера Майнкрафт, где ценят порядок в чате.