Советы по использованию API
Используйте X-Title для маркирования запросов от ваших скриптов
Вы можете использовать дополнительный header X-Title для задания источника – чтобы отслеживать, какие конкретно ваши скрипты вызывают API.
response_big = openai.ChatCompletion.create(
model="anthropic/claude-instant-v1",
messages=messages,
temperature=0.7,
n=1,
max_tokens=3000, # максимальное число ВЫХОДНЫХ токенов. Для большинства моделей не должно превышать 4096
headers={ "X-Title": "My App" }, # опционально - передача информация об источнике API-вызова
)
Больше примеров в Документации
Также вы можете скачивать информацию о генерациях вместе со строкой «источник» в списке последних запросов
Используйте Cookbook от OpenAI
У OpenAI есть отличный сайт с решением разных проблем: https://cookbook.openai.com/
Например:
- Как использовать вызов tools для создания системы поддержки клиентов
- Как суммировать длинный документ по частям
- Как использовать распознавание изображений в GPT4 Vision вместе с вызовом функций
Примеры из Cookbook также доступны на Github в формате Python Notebook: https://github.com/openai/openai-cookbook/tree/main/examples