"U raspravi s ostalim tviterašima..."

*ekserima 😄

Volio bih da mi netko od tih korisnika objasni što rade. Ljudi su potpuno iracionalni u načinu primjene i odabiru modela? Dan im traje 35 sati? Namjerno filaju kontekst smećem dok ne dođu do max broja tokena? Kako?!

Razvijas app za edit slika i videa, ugradis AI opcije za koje plaćaš ChatGPT API, i ne jašeš ti, nego tvoji korisnici aplikacije. 

 onda se naplaćuje kroz API (pay per use), a ovo je pretplatni model za pojedinog korisnika. Kruške i jabuke. 

Jesam li jedini koji ovaj “pozitivni” PR stunt doživljava kao totalni fail tehnologije u pozadini i čitam ovo na način da im korisnici u osnovi potroše više od 200$ struje. Ja se za te pare
grijem na kalorifer.

nije samo struja, imaš i amortizaciju opreme, održavanje...

Kome treba neka plati i koristi, a kome ne treba,  BYE. 

Vidim da nekima nije jasan moj post (kao i moje čuđenje)
samo za referencu:
200$ je 20M output tokena na GPT4o ili 3,5M tokena na GPT4o1. 20M tokena je otprilike jedna cijela Britannica.
200$ znači provući 2 puta Rat i mir kroz TTS
200$ znači svaki dan generirati po 60-70 slika u Dalle3HD modelu na najvišoj rezoluciji

Dodatno treniranje modela ("fine tuning") može povisiti troškove, ali tu se tek moraš dobro potruditi da bi došao do 200 dolara troška mjesečno.
Meni se čini da korisnik (a ovdje se ne radi o API ključu kojeg koristi X korisnika već o običnom chat accountu) koji troši $200 ili ima jako puno posla ili je jako besposlen. Ljudi jednostavno zlorabe nešto kad je flat rate ili kad drugi plaćaju. Ako im kažete da je grijanje flat rate termostat će staviti na max i otvoriti prozore. "ja sam to platio!"