Огромная популярность и мощь ChatGPT делают его обслуживание невероятно дорогостоящим, сообщает The Information, при этом OpenAI платит до $700 000 в день за поддержание своей мощной инфраструктуры, основываясь на данных исследовательской фирмы SemiAnalysis.

Большая часть этих затрат связана с дорогостоящими серверами, которые требуются для работы сервиса. Также затраты могут быть еще выше с запуском новых версий, так как текущие оценки были основаны на GPT-3, предыдущей модели, которая поддерживает старую и  бесплатную версию ChatGPT.

Запуск новейшей модели OpenAI, GPT-4, обойдется еще дороже. Это проблема не только ChatGPT, поскольку ИИ, особенно диалоговые, которые одновременно выполняют функции поисковой системы, невероятно дороги в запуске, потому что дорогие и специализированные чипы, стоящие за ними, невероятно энергоемки.

Именно поэтому Microsoft, которая инвестировала миллиарды долларов в OpenAI, готовит свой собственный проприетарный чип искусственного интеллекта. По сообщениям, программа, известная как Athena, находится в разработке с 2019 года и теперь доступна нескольким избранным сотрудникам Microsoft и OpenAI, согласно информационному отчету.

При развертывании чипа Microsoft надеется заменить используемые в настоящее время графические процессоры Nvidia в пользу чего-то более эффективного и, следовательно, менее дорогостоящего в запуске. И потенциальная экономия, мягко говоря, может быть огромной.

Хотя это будет заметным первым шагом Microsoft в области аппаратного обеспечения искусственного интеллекта — оно отстает от конкурентов Google и Amazon, у которых у обоих есть собственные чипы, – компания, скорее всего, не собирается повсеместно заменять чипы искусственного интеллекта Nvidia, поскольку обе стороны недавно договорились о многолетнем сотрудничестве в области искусственного интеллекта. Тем не менее, если Athena – это все, о чем ходят слухи, это не могло произойти достаточно скоро.

Учитывая стремительный успех ChatGPT, OpenAI, вероятно, не страдает из-за нехватки денег, в особенности, когда они ввели платную подписку.

Фото превью / Rolf Van Root / unsplash.com

Во сколько обходится OpenAI ежедневный запуск ChatGPT?