"hrabra" izjava

Je, siguran sam da je nemoguce pratiti onih 175 milijardi parametara i njihove weights, biase, transformere i onih njihovih vražijih attentionsa. Eto drago mi je da nisam jedini koji je to primjetio🍻

"Nitko ne razumije kako AI zapravo radi" bi bilo tocnije. Kao sto nitko ne pise masinski kod, zato jer - ni ne treba, jel. Attention whore.

Kakve su ovo gluposti? Pa nije se AI napisao sam od sebe lol

Ne shvaćam zašto je ovo vijest? Pa markovljev lanac (osnova svakog naprednog LLM-a) je stohastičan.

AI Halucinacije, laganje, ulizivanje, šutnja i slično su dobri primjeri ne-determinističnog outputa

Vjerojatnost (https://en.wikipedia.org/wiki/Probability_theory) je fundamentalna za SVAKI AI model (Russell, Stuart J.; Norvig, Peter 2021. Artificial Intelligence: A Modern Approach)

https://www.ibm.com/think/topics/self-supervised-learning

Pa i nije, ali ne misliš valjda da se odgovor neuronskih AI mreža programira nešto u stilu "if dog then woof!"

Ne mislim, ali postoji algoritam po kojem funkcionira.

 Naravno, postoji relativno malo jednostavnih ali apstraktnih algoritama koji stoje iza neuronske mreže, no praćenje i razumijevanje interne obrade i veza par miliona parametra, weightsa, biasa ... je za sad nepremostiv problem.

Neuronska mreža je eklatantan primjer kako cjelina može biti veća od zbroja svojih dijelova. Pa tako dok su sami algoritmi relativno lako razumljivi njihov sinergijski učinak nam je za sad crna kutija.

A što misliš tko piše algoritme, tko "popravlja" način na koji radi?

Algoritmi su za treniranje super-kompleksnog modela koji ima debelo previse parametara da bi mogao pohvatat konce sto ce ti on dat za dani input.

Uzmi AI halucinacije, svi LLM modeli ga imaju - izgleda da je manifestacija LLM-ova i transformer modela, razne spekulacije ali AFAIK ne zna se tocan razlog. Ako je netko "pisao algoritam i zna kako AI funkcionira", upitaj se zasto jednostavno ne poprave algoritam, mislim "nisu se halucinacije same napisale", jel.