Чат-боты без фильтров вроде Grok: когда нужен API

Две разные вещи под одним поисковым запросом

Grok — это чат-бот от xAI, и его называют, когда ищут менее ограниченного помощника. Это потребительский продукт: вы открываете приложение или сайт, входите и общаетесь. Здесь это означает продукты такого типа, включая множество тех, что предлагают другие компании. То, что они позволяют, их стоимость и то, что они сохраняют из ваших чатов, устанавливается каждой компанией, поэтому ознакомьтесь с их текущими условиями и ценами.

Хостинговый текстовый API — это другой тип продукта. У него нет интерфейса вообще. Вы отправляете JSON-запрос и получаете текст. Ничто здесь не аффилировано с xAI, и сервис не является официальным API какого-либо поставщика. Он запускает одну модель с открытыми весами, управляемую независимым провайдером и настроенную на ответы без отказов по контенту для законного использования взрослыми.

Честное предупреждение о терминологии. Люди используют выражение «без фильтров» свободно, имея в виду всё: от меньшего количества отказов по контенту до полного отсутствия ограничений. Ни один хостинговый сервис не означает второго. Здесь жесткое ограничение — запрет на сексуальный контент с участием несовершеннолетних, целевое использование — законное использование взрослыми, а ваш собственный продукт добавляет свои правила поверх. Приложения также сильно различаются в том, как они их применяют, поэтому сравнивайте то, что написано в их условиях, а не то, на что намекает маркетинг.

Сравнение

Последняя строка заслуживает внимания. Когда вы используете приложение, поставщик несет ответственность за модерацию и возрастную проверку. Когда вы строите на API, это делаете вы.

Есть также разница в данных. С потребительским приложением ваши чаты живут в системе поставщика в соответствии с политикой поставщика, поэтому прочтите эту политику. С этим API промпты не используются для обучения, а любая история, которую вы сохраняете, живет в вашей собственной базе данных в соответствии с вашими правилами хранения. Это больше контроля и больше ответственности одновременно.

Кому стоит выбрать приложение

• Вы хотите общаться, писать или играть в ролевые игры сегодня без настройки.
• Вам нужен отполированный интерфейс, приложения на телефоне и такие функции, как изображения или голос, если продукт их предлагает.
• Вы не пишете код и не хотите этого.
• Вам нравится тон поставщика, и вас устраивают его правила.

Для этих случаев приложение — правильный ответ. Использование API для разового чата — это больше работы без какой-либо выгоды.

Кому стоит выбрать API

• Вы создаёте бота, игру, приложение-компаньон или инструмент для письма и хотите контролировать персонажа и поток данных.
• Вы хотите свои правила в системном промпте, а не стандартные настройки поставщика.
• Вы хотите, чтобы расходы зависели от использования. Предоплата от $20, без подписки и без срока действия.
• Вы уже используете SDK OpenAI или клиент, который принимает пользовательский базовый URL.

Настройка занимает несколько строк. Базовый URL — https://api.chatbotunfiltered.com/v1, идентификатор модели — uncensored, а ключ передается в заголовке Authorization: Bearer.

Copycurl https://api.chatbotunfiltered.com/v1/chat/completions \
  -H "Authorization: Bearer $UF_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a blunt, witty assistant who answers directly."},
      {"role": "user", "content": "Give me a harsh but fair review of this opening line: It was a dark and stormy night."}
    ]
  }'

Документация охватывает потоковую передачу, инструменты и JSON-режим.

Практическое правило: если вы можете описать свой проект как «Я хочу бота, который делает X для Y людей», вам нужен API. Если бы вы описали его как «Я хочу поговорить с ботом, который делает X», вам нужно приложение. Люди часто начинают со второго желания и обнаруживают первое, когда хотят изменить то, что приложение не позволяет.

Чего не хватает API, честно

Лучше узнать о пробелах перед регистрацией.

• Нет приложения. Нет страницы чата, нет приложения для телефона и нет сохраненных чатов, если вы не создадите их или не используете интерфейс, принимающий OpenAI-совместимый эндпоинт.
• Без изображений, аудио или видео. Только текст. Также нет эмбеддингов и нет дообучения.
• Нет встроенных данных в реальном времени. Модель отвечает на основе того, на чём она обучена, и того, что вы подаёте в промпт. Если вам нужна актуальная информация, предоставьте её сами, например, через вызов функций в вашем коде.
• Нет памяти между вызовами. Вы управляете историей, в пределах контекстного окна на 100 000 токенов.
• Только криптовалюта для оплаты. USDT в сети TRC20 или USDC в сети Base.

Большинство потребительских чат-ботов сильнее в этих аспектах, поэтому если они важны для вас, выберите приложение.

Использование API внутри интерфейса чата

Если вы хотите использовать API без написания кода, есть промежуточный вариант. Некоторые интерфейсы для чата позволяют добавить эндпоинт, совместимый с OpenAI; SillyTavern — один из примеров. Шаги похожи в каждом случае, но названия меню и параметры различаются в разных версиях, поэтому ознакомьтесь с текущей документацией интерфейса.

1. Откройте настройки подключения или API в интерфейсе и выберите вариант, совместимый с OpenAI, или пользовательский.
2. Введите https://api.chatbotunfiltered.com/v1 в качестве базового URL.
3. Вставьте свой ключ и установите модель в uncensored.
4. Установите разумный размер контекста. Окно составляет 100 000 токенов для промпта и ответа, но большие промпты обходятся дороже при каждом запросе.
5. Включите потоковую передачу, если интерфейс её поддерживает, и отправьте тестовое сообщение.

Затем вы получаете интерфейс, карточки персонажей и сохраненные чаты из фронтенда, а модель — от API. Каждая часть делает то, что она умеет лучше всего. Стоимость зависит от токенов, которые отправляет фронтенд, поэтому следите за первым длинным чатом и проверяйте баланс либо в заголовке X-Balance-USD, либо с помощью GET /v1/balance.

Сколько стоит попробовать

Каждый запрос оценивается по количеству токенов. Запрос с промптом на 2 000 токенов и ответом на 300 токенов стоит 2 000 × $0,15 / 1 000 000 + 300 × $0,50 / 1 000 000 = $0,0003 + $0,00015 = $0,00045. Новые пользователи могут получить $0,50 пробного баланса одним нажатием на странице API-ключа, чего хватит примерно на 1 111 таких запросов ($0,50 ÷ $0,00045). Он действителен в течение 7 дней, не требует привязки карты и предоставляется один раз на человека.

Для более детального анализа затрат при масштабировании см. анализ стоимости и компромиссов чат-бота NSFW на сайте, а также страницу с ценами для таблицы пополнения. Чтобы начать, получите ключ. Неудачные или отклонённые запросы не оплачиваются, а промпты не используются для обучения.

Ещё один момент ответственности. Модель настроена на законное взрослое использование, и единственное строгое ограничение — запрет на сексуальный контент с участием несовершеннолетних. Если вы создаёте на её основе публичный продукт, проверка возраста и модерация — ваша задача.

Сравните это с тем, что вы платите сейчас. Если вы используете приложение по подписке, возьмите месячную цену с его сайта, разделите на $0,00045 — и получите количество реплик, которые можно купить на эти деньги здесь. Это честная проверка того, стоит ли переход усилий по настройке. Помните, что API возвращает чистый текст, в то время как подписка на приложение может включать функции, которые вам пришлось бы либо реализовать самостоятельно, либо отказаться от них.

Дополнительные руководства

• API чат-бота без фильтров: первый запрос за пять минут
• API NSFW-чат-бота: анализ стоимости и компромиссов