«Великий Гэтсби» менее чем за минуту: представлен чат-бот для работы с большими текстами

Компания Anthropic, которую основали бывшие инженеры OpenAI, представили чат-бота под названием Claude. Его главная особенность — возможность обрабатывать большие объёмы текста. Как говорится в официальном блоге разработчиков, их детище способно обработать художественный роман менее чем за минуту.

Контекстное окно ввода чат-бота Claude составляет 75 000 слов — это большое улучшение по сравнению с текущими моделями. К сравнению, популярный ChatGPT способен обрабатывать только 3000 слов. Чтобы протестировать своего чат-бота, разработчики выбрали роман «Великий Гэтсби». Они заменили в произведении одно предложение и попросили искусственный интеллект обнаружить его. На выполнение задачи чат-бот Claude потратил 22 секунды.

Здесь необходимо отметить, что языковые модели ИИ работают с так называемыми токенами, а не символами или словами. Токен — это семантическая единица, которая не всегда коррелируется с количеством символов. Длина слов не всегда может совпадать с количеством токенов. Если говорить о чат-боте Claude, по словам разработчиков, он обрабатывает 100 000 токенов, что намного больше 9000 токенов, с которыми работает ChatGPT. Полнофункциональная модель GPT-4 с может обрабатывать до 32 000 токенов. Сейчас ИИ Claude могут воспользоваться исключительно бизнес-партнёры Anthropic, которые подключаются к нейросети через API.