2. Fórumok
  3. Infotech
  4. A ChatGPT-vezér fényt lát az alagút végén, lehet AI-együttműködés
Keresés

Új hozzászólás Aktív témák

  • #24 ddekany veterán Hieronymus #23
    Új Válasz #24
    Új hozzászólás
    Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
    Privát üzenet küldése

    ddekany

    veterán

    válasz Hieronymus #23 üzenetére

    "Az emberiség örökösének vagy hogyan gondolod?"

    Persze. Úgy tűnik, rendszer szinten úgy viselkedünk (jelen kultúránkkal), hogy amint megvan rá az intelligenciánk (ami jelentős részben nem biológiai, hanem a sokszáz éven át továbbadott és így fokozatosan felfejlesztett tudomány/kultúra), azonnal megpróbáljuk az intelligens létforma következő fejlődési lépcsőjét létrehozni. Amint sikerül, természetes szelekció szempontjából elavultunk. Ha megmaradunk mint a csimpánzok, akkor is ez az új létforma lenne az "örökös", aki megy tovább legelöl a fejlődéssel. Eltekintve utópisztikus ötletektől, hogy integrálódunk ebbe az izébe (már azon túl, hogy a mi tudásunkból indult ki a betanítás elején).

    Szóval, kíváncsi lennék én arra a fényre az alagút végén, hogy valóban Sam-ék mit látnak, mit akarnak, ha ők tenyerelnek bele a "tutiba". Nem fogják persze megmondani feltétlenül. És komplikált sztori, mert nem csak egy kétséges végcél van (pl. az-e amit írtam fent), hanem egy oda vezető rázós út is (túl hatékony eszköz - "széttépjük" vele a rendszert és egymást, ha nincs valami nagyon okos "policy").

    "Be kell vallanom, én sem értem azt, amit írtál."

    Arra utaltam, hogy nem ismert, hogy a transformer architektúra miért/hogyan működik magasabb szinten. Sejtések/ötletek vannak, de amúgy fekete doboz, próbálgatás. Kutatási terület (AI interpretability), és ha később okosabbak is leszünk, erősen kétséges, hogy valaha ki tudjuk olvasni a paraméterekből, hogy valamiről valóban mit gondol, van-e rejtett motiváció, stb. Úgy is nézheted, hogy sötétben tapogatódzunk AI "pszichológia" területén. A fejlesztések gyorsabban haladnak, mint az megértés, és nem fog megállni, hogy bevárja, mert "fegyverkezési" verseny van.

    Ja, és a transformer alapú része, szóval pl. a GPT-4, az még nem a teljes intelligencia közel sem. Még építenek köré mindenféle okosságot... ami tovább növelheti a lemaradást megértés és kiszámíthatóság terén. Bár, talán, ha azok már emberi nyelven leírható gondolatokkal variálnak... A remény, ugye.

    [ Szerkesztve ]

Új hozzászólás Aktív témák