Uruchom DeepSeek na swoim komputerze offline. Zrobisz to w kilka chwil

DeepSeek stał się hitem internetu w niesamowicie krótkim czasie. Mówimy o jednym z najnowszych modeli językowych z Chin, który swoimi możliwościami wręcz zachwyca na każdym polu, choć jego pochodzenie budzi wiele wątpliwości. Część z nich jesteśmy w stanie bardzo szybko zaadresować, sprawdzając tytułowego LLM-a (model językowy) na własnym komputerze, co nie wymaga specjalnych umiejętności informatycznych.

DeepSeek uruchomiony lokalnie to nic trudnego

Od kilku miesięcy dzielę się z wami różnymi sposobami na sprawdzanie modeli językowych we własnym zakresie. W tym celu powstało kilka programów, które znacząco ułatwiają interakcję z LLM-ami, a dwa kluczowe z nich to LM Studio i Msty. Obie aplikacje charakteryzują się tym, że są stale rozwijane i wyraźnie ulepszane z wydania na wydanie, ale przede wszystkim są darmowe. Dlatego możemy legalnie z nich korzystać na własnym komputerze, podobnie jak z udostępnianych modeli na licencji OpenSource.

Wystarczy Msty i repozytorium Ollama

Z racji, że w ostatnim czasie głównie korzystam z Msty, które uważam za bardziej przejrzyste i prostsze w obsłudze dla nowych użytkowników, tak też wybór padł właśnie na ten program. Jego instalacja zajmuje chwilę i pobierzemy za darmo ze strony autorów. Po instalacji wystarczy, że zajrzymy do sekcji Local AI Models, gdzie po wyszukaniu frazy deepseek w repozytorium Ollama, od razu pojawi nam się szereg przygotowanych modeli:

Od razu ukazuje nam się szereg różnych modeli. Który wybrać? Jak zawsze gorąco zachęcam do przetestowania każdego w ramach konkretnych potrzeb. Niemniej warto zaczynać od pozycji, które cieszą się największą popularnością, bo zwiększamy szansę na znalezienie tego najbardziej uniwersalnego.

Po pobraniu interesującego nas modelu nie musimy nic więcej robić. Omawiany program sam zainstaluje wszystko, co potrzebne i z poziomu czatu możemy od razu wybrać DeepSeek oraz rozmawiać z nim. Swoją drogą warto korzystać z funkcji Msty, która pozwala jednocześnie operować na kilku LLM-ach i na żywo porównywać wyniki.

Wcześniej jeszcze warto zaznaczyć, że nie potrzebujemy super mocnego komputera, aby uruchamiać lokalnie czaty AI. Niemniej pomocne są sprzęty z NPU (patrz: co to NPU) i właśnie jeden z nich posłużył mi do testów modeli DeepSeek. Mowa konkretnie o laptopie ASUS ZenBook S 16, który swoją moc czerpie z procesora AMD Ryzen 9 AI. Jego składową jest właśnie jednostka NPU w postaci AMD XDNA 2, która notuje świetny wynik 50 TOPS.

Na podstawie kilku prób mogę od siebie polecić model podpisany jako deepsek-llm, który najlepiej poradził sobie z językiem polskim. Oczywiście nie jest to idealne wydanie, ale do wad i zalet jeszcze przejdziemy. Warto, żebyście pamiętali, że dostępność modeli, szczególnie tak popularnych, jest szybkozmienna, więc równie dobrze kilka dni po publikacji pojawi się lepszy wariant.

W takim razie przejdźmy do zalet. Przede wszystkim DeepSeek robi piorunujące wrażenie, jeśli chodzi o wydajność. Tempo generowanych poleceń jest świetne i można mówić wręcz o rozmowie na żywo, bez długiego oczekiwania na pojawienie się pierwszych słów. Kolejny istotny punkt, to brak cenzury. Model nie ma wgranego mechanizmu autokorekty kwestii, których autorzy nie chcieliby poruszać. W końcu możemy działać offline, bez stałego dostępu do sieci.

W kwestii wad na pewno lepiej skupić się na języku angielskim. To akurat cecha wszystkich modeli Alibaby. O ile DeepSeek faktycznie potrafi porozumieć się po polsku, tak czasami robi to w sposób koślawy i z rzadka zdarza mu się nagle zmienić kontekst na angielski. Na szczęście nie pojawiały się przypadki przejścia na język chiński, co wywoływało mój uśmiech na twarzy, gdy przygotowywałem dla was życzenia noworoczne z AI.

Tym sposobem poznaliście tak naprawdę jedne z pierwszych wydań DeepSeek, które możecie uruchomić na własnym komputerze. Jak na świeży model OpenSource jestem pod dużym wrażeniem inicjalnych możliwości, więc jednocześnie czuję, że to może być kolejny milowy krok w rozwoju szeroko rozumianego AI. Autorzy pokazali, że konkurencja nie śpi.

Źródło: oprac. własne. Zdj. otwierające: Shutterstock (Mamun_Sheikh)

Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.

Artykuł Uruchom DeepSeek na swoim komputerze offline. Zrobisz to w kilka chwil pochodzi z serwisu ANDROID.COM.PL - społeczność entuzjastów technologii.