Пізнавальне

Розробники Microsoft представили нову передову модель штучного інтелекту Phi-2, що містить 2.7 млрд параметрів. Phi-2 може конкурувати з моделями штучного інтелекту, які у 25 разів більші за розміром, і навіть перевершувати їх.

Генеральний директор Microsoft Сатья Наделла представив модель Phi-2 на заході Ignite у листопаді. Декілька тижнів тестів показали, що нова розробка компанії перевершує по ефективності всіх конкурентів, включаючи найновішу ШІ-модель від Google. Відмінною рисою Phi-2 є використання якісних даних, були ретельно відібрані та структуровані.

Phi-2 змінює усталені уявлення про зв’язок між розміром та потужністю мовних моделей. Новий ШІ від Microsoft можна порівняти з великими ШІ-моделями, такими як 7B Mistral компанії Mistral AI, 13B Llama 2 компанії Meta і навіть 70B Llama-2. На особливу увагу заслуговує здатність Phi-2 перевершувати навіть Gemini Nano компанії Google, найефективнішу модель у серії Gemini, призначену для роботи на мобільних пристроях.

Фахівці Microsoft підкреслили, що висока продуктивність моделі Phi-2 досягнута без застосування методів навчання з підкріпленням (reinforcement learning), заснованих на людському зворотному зв’язку. Це дозволяє моделі ефективно мінімізувати прояви упередженості та знижувати ризик токсичних вихідних даних, що робить Phi-2 однією з найбезпечніших та найетичніших моделей у сфері ШІ.

Phi-2 є частиною серії малих мовних моделей (SLM) компанії Microsoft. Перша модель цієї серії, Phi-1 з 1.3 млрд параметрів, вийшла раніше цього року і була націлена на завдання програмування мовою Python. У вересні була представлена Phi-1.5 з аналогічною кількістю параметрів, але навчена на нових даних, включаючи синтетичні тексти, створені за допомогою програмування природною мовою.