Actualité : L'IA enfin fiable ? Une start-up du MIT apprend aux modèles à “savoir qu'ils ne savent pas”
Une jeune pousse issue du MIT a trouvé un moyen d’identifier et réduire le taux d’incertitude autour des réponses des modèles langage, comme ChatGPT. Un moyen d’éviter que ces intelligences ne racontent n’importe quoi et fassent des erreurs aux conséquences potentiellement catastrophiques.
Depuis fin 2022, ChatGPT a bouleversé en profondeur notre relation à la recherche sur le Web, à la façon d’apprendre, de communiquer et même d’écrire.Le problème majeur des hallucinationsPourtant, derrière chaque réponse des transformeurs génératifs préentraînés (le GPT de ChatGPT) se cache un risque. Ces grands modèles de langage, qui reposent sur l...
