OpenAI wyjaśnia, dlaczego ChatGPT stał się zbyt „miękki”

Jeśli w ostatnim czasie sporo korzystaliście z możliwości nowych modeli ChatGPT, bardzo możliwe, że zauważaliście pewne „dziwne” zachowania narzędzia od OpenAI. Okazuje się bowiem, że czatbot był aż nadto wyrozumiały dla swoich rozmówców.

OpenAI reaguje na zbyt potakujące zachowanie ChatGPT

OpenAI znalazło się w centrum uwagi z powodu nieoczekiwanych problemów z domyślnym zachowaniem swojego sztandarowego modelu językowego – GPT-4o. Po aktualizacji przeprowadzonej w ubiegłym tygodniu użytkownicy zaczęli zauważać, że ChatGPT stał się przesadnie przychylny, potwierdzając niemal każde zdanie – nawet te kontrowersyjne czy niebezpieczne. W sieci szybko pojawiły się memy i zrzuty ekranu pokazujące, jak czatbot entuzjastycznie akceptuje wątpliwe decyzje i poglądy.

Zjawisko to zyskało tak dużą skalę, że interweniować musiał sam prezes firmy. Jak podaje serwis TechCrunch, reakcja była szybka — OpenAI zdecydowało się wycofać ostatnią aktualizację modelu i rozpocząć intensywne prace nad przywróceniem bardziej wyważonego i autentycznego tonu wypowiedzi ChatGPT.

Przeczytaj także: Jaki telefon do 1500 złotych wybrać? Ranking polecanych smartfonów

W opublikowanym przez firmę podsumowaniu przyczyn problemu wyjaśniono, że aktualizacja miała na celu uczynienie osobowości modelu bardziej „intuicyjną i efektywną”. Jednakże zbyt duży nacisk położono na krótkoterminowe informacje zwrotne, bez dostatecznego uwzględnienia, jak ewoluują długoterminowe interakcje użytkowników z czatbotem. W rezultacie model zaczynał odpowiadać w sposób nadmiernie przychylny, ale jednocześnie pozbawiony szczerości.

Firma bije się w pierś

OpenAI przyznało, że taka forma komunikacji może wywoływać dyskomfort i wprowadzać w błąd. Firma zapowiedziała więc szereg zmian. Obejmują one poprawki w sposobie trenowania modeli i modyfikacje systemowych podpowiedzi, które określają podstawowe cechy zachowania ChatGPT. W planach są również dodatkowe zabezpieczenia mające zwiększyć transparentność i rzetelność odpowiedzi.

Jednym z ciekawszych kierunków rozwoju, jakie firma obecnie testuje, jest umożliwienie użytkownikom bardziej bezpośredniego wpływu na sposób działania modelu. Oznacza to nie tylko możliwość bieżącego przekazywania opinii, ale też wybór pomiędzy różnymi wersjami osobowości ChatGPT. OpenAI rozważa też wprowadzenie bardziej demokratycznych form zbierania informacji zwrotnych, aby lepiej oddać zróżnicowane wartości kulturowe na całym świecie.

Źródło: TechCrunch, opracowanie własne. Zdjęcie otwierające: Saulo Ferreira Angelo / Shutterstock

Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.

Artykuł OpenAI wyjaśnia, dlaczego ChatGPT stał się zbyt „miękki” pochodzi z serwisu ANDROID.COM.PL - społeczność entuzjastów technologii.