Как использовать модели рассуждений OpenAI: o1-preview/o1-Mini модели - бесплатный AI чат

Felo AI Chat теперь поддерживает бесплатное использование модели рассуждений O1

В быстро развивающемся мире искусственного интеллекта OpenAI представила революционную серию крупных языковых моделей, известных как серия o1. Эти модели предназначены для выполнения сложных задач рассуждения, что делает их мощным инструментом как для разработчиков, так и для исследователей. В этом блоге мы рассмотрим, как эффективно использовать модели рассуждения OpenAI, сосредоточив внимание на их возможностях, ограничениях и лучших практиках для реализации.

Felo AI Chat теперь поддерживает бесплатное использование модели рассуждения O1. Попробуйте!!

Понимание моделей OpenAI o1 Series

Модели серии o1 отличаются от предыдущих итераций языковых моделей OpenAI благодаря своей уникальной методологии обучения. Они используют обучение с подкреплением для улучшения своих возможностей рассуждения, позволяя им критически мыслить перед генерацией ответов. Этот внутренний процесс мышления позволяет моделям производить длинную цепочку рассуждений, что особенно полезно для решения сложных задач.

Ключевые особенности моделей OpenAI o1

1. **Продвинутое рассуждение**: Модели o1 превосходят в научном рассуждении, достигая впечатляющих результатов в конкурентном программировании и академических тестах. Например, они занимают 89-й процентиль на Codeforces и продемонстрировали точность на уровне PhD в таких предметах, как физика, биология и химия.

2. **Два варианта**: OpenAI предлагает две версии моделей o1 через свой API:
 

- **o1-preview**: Это ранняя версия, предназначенная для решения сложных задач с использованием широких общих знаний.
 

- **o1-mini**: Более быстрая и экономически эффективная версия, особенно подходящая для задач программирования, математики и науки, которые не требуют обширных общих знаний.

3. **Контекстное окно**: Модели o1 имеют значительное контекстное окно в 128 000 токенов, что позволяет обрабатывать обширный ввод и рассуждения. Однако важно эффективно управлять этим контекстом, чтобы избежать достижения пределов токенов.

Начало работы с моделями OpenAI o1

Чтобы начать использовать модели o1, разработчики могут получить к ним доступ через конечную точку завершения чата API OpenAI.

Готовы улучшить свой опыт взаимодействия с ИИ? Felo AI Chat теперь предлагает возможность исследовать передовую модель рассуждения O1 бесплатно!

Попробуйте бесплатную версию модели рассуждения o1.

Ограничения бета-версии моделей OpenAI o1

Важно отметить, что модели o1 в настоящее время находятся в бета-версии, что означает, что есть некоторые ограничения, о которых следует знать:

В течение бета-фазы многие параметры API завершения чата еще недоступны. В частности:

• Модальности: только текст, изображения не поддерживаются.
• Типы сообщений: только сообщения пользователя и помощника, системные сообщения не поддерживаются.
• Потоковая передача: не поддерживается.
• Инструменты: инструменты, вызовы функций и параметры формата ответа не поддерживаются.
• Logprobs: не поддерживается.
• Прочее: temperature, top_p и n фиксированы на 1, в то время как presence_penalty и frequency_penalty фиксированы на 0.
• Ассистенты и пакет: эти модели не поддерживаются в API Ассистентов или Пакетном API.

**Управление контекстным окном**:

С контекстным окном в 128 000 токенов важно эффективно управлять пространством. Каждое завершение имеет максимальный лимит выходных токенов, который включает как токены рассуждения, так и видимые токены завершения. Например:

- **o1-preview**: до 32 768 токенов
 

- **o1-mini**: до 65 536 токенов

Скорость моделей OpenAI o1

Чтобы проиллюстрировать, мы сравнили ответы GPT-4o, o1-mini и o1-preview на вопрос о рассуждении слов. Хотя GPT-4o дал неправильный ответ, обе модели o1-mini и o1-preview ответили правильно, причем o1-mini пришла к правильному ответу примерно в 3-5 раз быстрее.

Как выбрать между моделями GPT-4o, O1 Mini и O1 Preview?

**O1 Preview**: Это ранняя версия модели OpenAI O1, предназначенная для использования обширных общих знаний для рассуждения по сложным задачам.

**O1 Mini**: Более быстрая и доступная версия O1, особенно хороша для задач программирования, математики и науки, идеальна для ситуаций, которые не требуют широких общих знаний.

Модели O1 предлагают значительные улучшения в рассуждении, но не предназначены для замены GPT-4o во всех случаях использования.

Для приложений, требующих ввода изображений, вызовов функций или постоянно быстрых времен ответа, модели GPT-4o и GPT-4o Mini по-прежнему являются лучшими выборами. Однако, если вы разрабатываете приложения, которые требуют глубокого рассуждения и могут допустить более длительное время ответа, модели O1 могут быть отличным вариантом.

Советы по эффективному использованию моделей O1 Mini и O1 Preview

Модели OpenAI o1 лучше всего работают с четкими и простыми подсказками. Некоторые техники, такие как подсказки с несколькими примерами или просьба к модели "думать шаг за шагом", могут не улучшить производительность и даже помешать ей. Вот некоторые лучшие практики, которые следует соблюдать:

1. **Держите подсказки простыми и прямыми**: Модели наиболее эффективны, когда им даются краткие, четкие инструкции без необходимости в обширных пояснениях.

2. **Избегайте подсказок цепочки рассуждений**: Поскольку эти модели обрабатывают рассуждения внутренне, нет необходимости подсказывать им "думать шаг за шагом" или "объяснять свои рассуждения".

3. **Используйте разделители для ясности**: Используйте разделители, такие как тройные кавычки, XML-теги или заголовки разделов, чтобы четко определить разные части ввода, что помогает модели правильно интерпретировать каждую секцию.

4. **Ограничьте дополнительный контекст в генерации с дополнением (RAG)**: При предоставлении дополнительного контекста или документов включайте только наиболее актуальную информацию, чтобы избежать усложнения ответа модели.

Цены на модели o1 Mini и 1 Preview.

Расчет стоимости для моделей o1 Mini и 1 Preview отличается от других моделей, так как он включает дополнительную стоимость за токены рассуждения.

Цены на o1-mini

$3.00 / 1M входных токенов
 

$12.00 / 1M выходных токенов

Цены на o1-preview

$15.00 / 1M входных токенов
 

$60.00 / 1M выходных токенов

Управление затратами на модели o1-preview/ o1-mini

Чтобы контролировать расходы на модели серии o1, вы можете использовать параметр `max_completion_tokens`, чтобы установить лимит на общее количество токенов, которые генерирует модель, включая как токены рассуждения, так и токены завершения.

В предыдущих моделях параметр `max_tokens` управлял как количеством генерируемых токенов, так и количеством токенов, видимых пользователю, которые всегда были одинаковыми. Однако в серии o1 общее количество сгенерированных токенов может превышать количество токенов, показанных пользователю, из-за внутренних токенов рассуждения.

Поскольку некоторые приложения зависят от того, чтобы `max_tokens` соответствовал количеству токенов, полученных от API, серия o1 вводит `max_completion_tokens`, чтобы специально контролировать общее количество токенов, производимых моделью, включая как токены рассуждения, так и видимые токены завершения. Этот явный выбор гарантирует, что существующие приложения остаются совместимыми с новыми моделями. Параметр `max_tokens` продолжает работать так же, как и для всех предыдущих моделей.

Заключение

Модели серии o1 от OpenAI представляют собой значительный шаг вперед в области искусственного интеллекта, особенно в их способности выполнять сложные задачи рассуждения. Понимая их возможности, ограничения и лучшие практики использования, разработчики могут использовать мощь этих моделей для создания инновационных приложений. Поскольку OpenAI продолжает совершенствовать и расширять серию o1, мы можем ожидать еще более захватывающих разработок в области рассуждения на основе ИИ. Независимо от того, являетесь ли вы опытным разработчиком или только начинаете, модели o1 предлагают уникальную возможность исследовать будущее интеллектуальных систем. Удачного кодирования!

Felo AI Chat всегда предлагает вам бесплатный опыт с передовыми ИИ моделями со всего мира. Нажмите здесь, чтобы попробовать!