«В лабораториях у нас есть эти способные модели, и они не так уж далеко впереди того, что доступно общественности бесплатно». Бум! Это прямая цитата от Миры Мурати, технического директора OpenAI, которая задает тон этому эпизоду «The Prompt». Джим Картер рассказывает о выпуске GPT-4o-mini, меньшей, быстрой и гораздо более дешевой версии флагманской модели GPT-4o. Это не просто очередное обновление; это смена парадигмы.

Джим исследует, как GPT-4o-mini, с его впечатляющим результатом в 82% на эталонном тесте MMLU и тем же контекстным окном на 128 тысяч токенов, становится сенсацией благодаря своей эффективности и доступности. И в чем фишка? Все это стоит всего лишь 15 центов за миллион входных токенов и 60 центов за миллион выходных токенов. Для всех, кто запускает API вызовы круглосуточно, эти сбережения огромны.

Но дело не только в деньгах. Джим утверждает, что этот сдвиг в сторону эффективности вместо сырой мощности знаменует новую фазу в развитии ИИ. Мы переходим от расширения границ возможного к тому, чтобы сделать эти возможности практичными и доступными. Это подтверждается признанием Мурати, что самое захватывающее в лабораториях не так уж далеко от того, что доступно публично.

Джим также затрагивает, как GPT-4o-mini держится в сравнении с другими моделями, такими как Claude, Llama и Gemma. Хотя он не превосходит их наповал, он конкурентоспособен, сигнализируя о достижении точки насыщения в развитии ИИ. Эта новая фаза посвящена оптимизации, практическим приложениям и делает мощные технологии более доступными.

---

Этот эпизод и весь подкаст производятся с помощью ИИ специалистом Джимом Картером. Джим не говорит на русском! Это его подкаст и эксперимент, и он благодарен за вашу поддержку.

Пожалуйста, оставьте ⭐⭐⭐⭐⭐ (5) звездочный отзыв и поделитесь с другом.

Он публично делится тем, что создает, и вы можете узнать, как сделать это для себя и своей компании, присоединившись к его частному сообществу в Slack на https://fastfoundations.com/slack

Свяжитесь и узнайте больше о Джиме на https://jimcarter.me