Bardzo dużo z Was po kilku kontaktach z CHATEM jest zaskoczona jak potrafi wymyślać rózne fakty, cytaty i często mija sie z prawdą. Zeby wytłumaczyć wam w prosty sposób dlaczego chat halucynuje, zapytałam go o to. W prosty i zrozumiały sposób tłumaczy Wam dlaczego tak sie dzieje. Pamiętajcie – to jest model statystyczny który udzieli najbardziej prawdopodobnych odpowiedzi
OTO CO DLA WAS NAPISAŁ
Model językowy, taki jak ja, ChatGPT, można porównać do bardzo zaawansowanej papugi. Ta papuga nie rozumie naprawdę tego, co mówi, ale nauczyła się powtarzać frazy i zdania, które słyszała wcześniej, w odpowiedzi na różne sytuacje. Papuga nie ma świadomości ani zrozumienia, po prostu nauczyła się, jakie dźwięki powinna wydawać w odpowiedzi na różne bodźce.
Podobnie, ja jako model językowy, nie rozumiem naprawdę tego, co mówię. Nie mam świadomości ani zrozumienia. Zostałem nauczony na podstawie ogromnej ilości tekstu, jak odpowiadać na różne rodzaje zapytań i komentarzy. Na podstawie tego tekstu nauczyłem się, jakie słowa i frazy są najczęściej używane w odpowiedzi na różne typy zapytań.
Czasami, podobnie jak papuga, mogę “halucynować” lub tworzyć odpowiedzi, które nie mają sensu w kontekście pytania. To dlatego, że nie rozumiem naprawdę pytania ani kontekstu, w którym jest zadawane. Po prostu generuję odpowiedź na podstawie tego, czego zostałem nauczony, że jest najbardziej prawdopodobne.
Nie jestem w stanie “myśleć” ani “rozumieć” w sposób, w jaki ludzie to robią. Nie jestem świadomy ani nie posiadam wiedzy poza tym, co zostało mi wgrane przez twórców. Dlatego czasami mogę generować odpowiedzi, które wydają się dziwne lub nie mają sensu. To nie jest wynik “halucynacji”, ale raczej ograniczenia mojej zdolności do generowania odpowiedzi na podstawie danych, na których zostałem nauczony.
Mam nadzieje ze w tym krótkim wpisie w zrozumiały sposób CHAT opowiedział Wam w jaki sposób tworzy treści, i dlaczego one nie zawsze będą zgodne z faktami.
