Gemini 1.5 Pro: дата выхода API и сравнение цен с другими моделями

Google наконец-то объявил дату выхода API Gemini 1.5 Pro на Google Studio AI (без упоминания VertexAI, но можно предположить, что он в ближайшее время появится) и предварительный обзор цен.

Официальная дата выхода API Gemini 1.5 Pro: 2 мая

Интересно, что в Gemini 1.5 Pro контекст в 1 миллион токенов доступен для всех (кто может себе это позволить, конечно). Это большой шаг вперед, поскольку доступ к такой мощности больше не требует специального запроса и одобрения. Если вы можете заплатить, вы можете его использовать.

Цены на Gemini 1.5 Pro:

Анализируя цены, на первый взгляд они могут испугать, но API будет работать так же, как и другие API LLM. $7/$21 - это максимальная стоимость, которую вы можете заплатить, но фактическая стоимость будет зависеть от количества использованных токенов. Давайте разберемся подробнее.

1 млн входных токенов = $7

1 млн выходных токенов = $21

Теперь посмотрим на контекст вдвое меньше (все равно больше, чем у других коммерческих больших языковых моделей на сегодняшний день):

500 тыс. входных токенов = $3,50

500 тыс. выходных токенов = $10,50

Если мы возьмем 200 тыс., что более распространено сегодня:

200 тыс. входных токенов = $1,40

200 тыс. выходных токенов = $4,20

Или 128 тыс., как у GPT-4 Turbo:

128 тыс. входных токенов = $0,89

128 тыс. выходных токенов = $2,68

Теперь посмотрим на максимальное доступное окно в Google сегодня - 32 тыс.:

32 тыс. входных токенов = $0,22

32 тыс. выходных токенов = $0,67

И просто ради интереса посмотрим на 16 тыс., 8 тыс. и 4 тыс.:

16 тыс. входных токенов = $0,11

16 тыс. выходных токенов = $0,33

8 тыс. входных токенов = $0,05

8 тыс. выходных токенов = $0,16

4 тыс. входных токенов = $0,02

4 тыс. выходных токенов = $0,08

Сравнения цен Gemini 1.5 Pro с другими моделями:

Как видно, что Google выходит на арену как сильный конкурент. Никто не мог по-настоящему протестировать Gemini 1.5 Pro в реальных сценариях, но ожидается, что его производительность будет близка к GPT-4. Если это окажется правдой, мы получим ее по гораздо более низкой цене по сравнению сс другими моделями во многих ситуациях.

Gemini 1.5 Pro предоставляет бесплатную ограниченную версию для тестирования с 50 запросами в день и 2 в минуту с 32 токенами.