Советы по использованию API

Используйте X-Title для маркирования запросов от ваших скриптов

Вы можете использовать дополнительный header X-Title для задания источника – чтобы отслеживать, какие конкретно ваши скрипты вызывают API.

response_big = openai.ChatCompletion.create(
    model="anthropic/claude-instant-v1",
    messages=messages,
    temperature=0.7,
    n=1,
    max_tokens=3000, # максимальное число ВЫХОДНЫХ токенов. Для большинства моделей не должно превышать 4096
    headers={ "X-Title": "My App" }, # опционально - передача информация об источнике API-вызова    
)

Больше примеров в Документации

Также вы можете скачивать информацию о генерациях вместе со строкой «источник» в списке последних запросов

Используйте Cookbook от OpenAI

У OpenAI есть отличный сайт с решением разных проблем: https://cookbook.openai.com/

Например:

• Как использовать вызов tools для создания системы поддержки клиентов
• Как суммировать длинный документ по частям
• Как использовать распознавание изображений в GPT4 Vision вместе с вызовом функций

Примеры из Cookbook также доступны на Github в формате Python Notebook: https://github.com/openai/openai-cookbook/tree/main/examples