Új hozzászólás Aktív témák

• #13 ddekany veterán kilua #12

  Új Válasz 2024-04-14 22:41:47 #13

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz kilua #12 üzenetére

  Én próbálkoztam ezekkel a kis modellek (mint Phi 2, Starling 7B, Qwen 1.5 14B), de totál zavaradottak. A legnagyobbak (Claude 3 Opus, GPT-4, amik sokszáz vagy akár eze millárd paraméteresek) is bőven hagynak maguk után kívánni valót, ha programok megértéséről és generálásáról van szó (mint Github Copilot). Franc tudja milyen áttörések lesznek a jövőben, de azért most nem látszik, hogy bármi mélyebb megértést és megbízhatóságot igénylő feladat ne kívánna meg párszáz GB RAM-ot. Sőt, az tűnik valószínűleg, hogy ezeknek több menetben iteratívan kéne gondolkodniuk (nem úgy mint most, hogy ami elsőre "eszébe jut", azt kapásból rádönti), és az olyan megoldások nagyságrendekkel lassabba a végfelhasználó szemszögéből, tehát még gyorsabb vas dukálna.

  De aztán vannak feladatok amire elég lehet a kicsi... kb. ilyen fotó/videó retusálás, leiratozás.

Új hozzászólás Aktív témák