Microsoft miał opracować hiperefektywny model AI. Jest jeden haczyk

Microsoft pochwalił się stworzeniem jednego z najbardziej wydajnych modeli sztucznej inteligencji, jaki kiedykolwiek powstał. BitNet b1.58 2B4T – bo tak nazwano nowy system – ma działać szybko, zużywać niewiele pamięci i co najciekawsze: nie potrzebuje do pracy drogich kart graficznych. Wystarczy zwykły procesor, nawet ten w MacBooku z układem Apple M2. Zbyt piękne, by było prawdziwe?

Model AI od Microsoftu – BitNet b1.58 2B4T

BitNet to tzw. „bitnet” – model AI, który przechowuje swoje dane w uproszczonej formie. Wagi (czyli wewnętrzne wartości, które determinują zachowanie modelu) są sprowadzone do zaledwie trzech możliwych wartości: -1, 0 i 1. Dzięki temu model opracowany przez Microsoft potrzebuje mniej pamięci i mocy obliczeniowej, a w konsekwencji może działać szybciej.

BitNet b1.58 2B4T to pierwszy tego typu model, który osiągnął rozmiar 2 miliardów parametrów. Microsoft twierdzi, że był on trenowany na gigantycznym zbiorze danych obejmującym 4 biliony tokenów, co odpowiada treści około 33 milionów książek.

Gigant podaje też, że BitNet b1.58 2B4T przewyższa konkurencję – czyli inne modele AI o podobnej wielkości, takie jak Meta Llama 3.2 1B, Google Gemma 3 1B czy Qwen 2.5 1.5B od Alibaby. W wewnętrznych testach szczególnie dobrze poradził sobie z zadaniami matematycznymi (GSM8K) i testami zdroworozsądkowego rozumowania fizycznego (PIQA).

Dodatkowym atutem ma być prędkość – BitNet działa nawet dwukrotnie szybciej od konkurentów przy jednoczesnym zużyciu znacznie mniejszej ilości pamięci. A przynajmniej tak twierdzi Microsoft.

Ale jest pewien haczyk…

Choć brzmi to wszystko bardzo obiecująco, jest jeden problem: żeby BitNet działał sprawnie, potrzebuje specjalnego frameworka stworzonego przez Microsoft – bitnet.cpp. A ten obecnie obsługuje tylko wybrane procesory i nie współpracuje z GPU, czyli kartami graficznymi, które obecnie dominują w infrastrukturze AI.

A to oznacza, że praktyczne zastosowanie modelu jest na razie ograniczone – dopóki framework nie zyska szerszego wsparcia sprzętowego, pozostanie ciekawostką dla entuzjastów i badaczy.

Microsoft udostępnił BitNet b1.58 2B4T na licencji MIT, co oznacza, że każdy może z niego korzystać, rozwijać go i testować.

Przeczytaj też: Jaki zewnętrzny dysk SSD wybrać?

Źródło: Tech Crunch. Zdjęcie otwierające: Tyler Lahti / Creative Commons Attribution-Share Alike 4.0

Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.

Artykuł Microsoft miał opracować hiperefektywny model AI. Jest jeden haczyk pochodzi z serwisu ANDROID.COM.PL - społeczność entuzjastów technologii.