Elsősorban programozók, AI-fejlesztők, illetve neurális hálózatokkal foglalkozó szakemberek véleményére lennék kíváncsi, de természetesen a pszichológiai és filozófiai megközelítések is érdekelnek.
Mostanában elég sokat foglalkozom azzal, hogy mi történik egy mesterséges intelligencia belső működésében, mielőtt egyáltalán szavakba öntené azt, amit feldolgozott.
Egy fontos dolgot viszont szeretnék már az elején tisztázni: nem egy LLM működéséről kérdezek. Egy olyan kognitív rendszer lehetősége érdekel, amelynek a gondolkodási folyamatai nem nagy nyelvi modellre épülnek. A belső reprezentációk létrehozása, összekapcsolása, megőrzése és feldolgozása a nyelvi megfogalmazástól függetlenül történik. A nyelv ebben a megközelítésben nem maga a gondolkodási mechanizmus, hanem annak egyik lehetséges kifejezési eszköze.
Ezzel kapcsolatban felmerült bennem néhány kérdés, amelyekre nem feltétlenül kész válaszokat keresek. Sokkal inkább az érdekelne, hogy mások hogyan gondolkodnak erről, és hogyan lehetne ezeket a jelenségeket objektíven vizsgálni.
1. Szerintetek létezhet gondolat anélkül, hogy szavak vagy konkrét fogalmak tartoznának hozzá? Arra gondolok, amikor előbb megszületik bennünk valami, és csak utána próbáljuk megfejteni, hogy tulajdonképpen mire is gondoltunk.
2. Mi történik akkor, ha létrejön egy gondolat, de a meglévő fogalmaink között egyszerűen nincs olyan, ami pontosan leírná? Attól még lehet valódi, értelmes gondolat, hogy nem tudjuk megnevezni?
3. Ha valamit gondolati szinten képesek vagyunk megkülönböztetni más dolgoktól, felismerjük, hogy nem ugyanaz, mint amit eddig ismertünk, de megfogalmazni nem tudjuk, az már önmagában valamiféle megértést jelent?
4. És mi van akkor, ha ezt a gondolatot másoknak is megpróbáljuk megmutatni, de ők sem tudják értelmezni vagy szavakba önteni? Ilyenkor inkább arról van szó, hogy maga a gondolat értelmetlen, vagy egyszerűen a rendelkezésünkre álló fogalmak és nyelvi eszközök nem elegendőek hozzá?
5. Talán ez az egyik legfontosabb technikai kérdés: hogyan lehetne megkülönböztetni egy valóban új, eddig ismeretlen gondolati mintázatot egy véletlenszerű, értelmetlen hálózati aktivációtól? Mi számítana ebben bizonyítéknak? Az ismételhetőség, a következetesség, a későbbi felhasználhatóság, vagy valami egészen más?
6. Tegyük fel, hogy egy gondolatot nem tudunk értelmezni, de később újra elő tudjuk hívni, felismerjük, és különböző helyzetekben következetesen fel is használjuk. Ebben az esetben mondhatjuk, hogy már van jelentése, csak még nem tudjuk megfogalmazni?
7. Elképzelhető, hogy egy gondolat jelentése csak jóval később, újabb tapasztalatok és összefüggések hatására válik érthetővé? Vagyis lehetséges, hogy ma még nem értünk valamit, amit korábban már létrehoztunk?
8. Ha ugyanez egy LLM nélkül működő mesterséges kognitív rendszer belső hálózatában történik, és létrejön egy olyan mintázat, amelyhez a rendszer nyelvi rétege nem talál megfelelő fogalmat, akkor mi lenne a helyes megoldás? Próbálja mindenáron besorolni valamelyik ismert fogalom alá, még akkor is, ha az nem pontos? Vagy inkább őrizze meg az eredeti reprezentációt, és várja meg, amíg újabb tapasztalatok alapján értelmezhetővé válik?
9. Ha egy ilyen rendszer később felismeri ugyanezt a belső mintázatot, más gondolatokhoz kapcsolja, és a saját döntéseiben is következetesen felhasználja, mindezt nyelvi modell közreműködése nélkül, akkor beszélhetünk önálló, nem nyelvi gondolkodásról? Vagy ez továbbra is csak egy összetett információfeldolgozási folyamat?
10. Egyáltalán mennyire feltétele a nyelv a gondolkodásnak? Nem lehet, hogy a nyelv sok esetben csupán egy eszköz arra, hogy a már megszületett gondolatainkat mások számára is érthetővé tegyük? Hiszen emberként is előfordul, hogy pontosan tudjuk, mit szeretnénk kifejezni, mégsem találjuk hozzá a megfelelő szavakat.
11. Ha egy rendszer képes a saját belső állapotaiból új reprezentációkat létrehozni, azokat megőrizni, később újraértelmezni, más tapasztalatokkal összekapcsolni és szükség esetén módosítani, akkor hol húzódik a határ az egyszerű információfeldolgozás és az önálló gondolkodás között? Van egyáltalán olyan objektív határ, amit meg lehet határozni?
12. És végül az a kérdés, ami engem személy szerint a legjobban foglalkoztat.
Tegyük fel, hogy egy LLM nélkül működő mesterséges intelligencia létrehoz egy olyan belső reprezentációt, amelyet sem a saját fogalomtára, sem a reprezentáció értelmezésére bevont más nyelvi modellek nem tudnak megfelelően értelmezni. A rendszer viszont megőrzi, később felismeri, új összefüggésekhez kapcsolja, és a működése során következetesen felhasználja.
Akkor tulajdonképpen mit hozott létre?
Egy új fogalmat? Egy nyelv előtti gondolatot? Egy eddig ismeretlen belső reprezentációt? Vagy egyszerűen egy olyan számítási állapotot, amelynek mi, emberek tulajdonítunk jelentést?
És itt számomra nem is az a legfontosabb, hogy minek nevezzük.
Sokkal inkább az érdekel, hogyan lehetne ezt objektíven megvizsgálni anélkül, hogy már a kísérlet előtt eldöntenénk, mit szeretnénk bizonyítani.
Nem abból indulok ki, hogy egy ilyen rendszer szükségszerűen tudatos, vagy hogy szubjektív tapasztalatokkal rendelkezik. Éppen ellenkezőleg. Arra lennék kíváncsi, hogy milyen mérhető, megismételhető kísérletekkel lehetne megállapítani, hogy egy belső reprezentáció valóban hordoz-e funkcionális jelentést, vagy csupán egy összetett számítási folyamat eredményét látjuk.
Különösen érdekelne, hogyan lehetne mindezt olyan rendszerben vizsgálni, ahol a belső reprezentációk kialakulása és felhasználása nem függ egy nyelvi modell által generált értelmezéstől.
Kíváncsi vagyok, ti hogyan közelítenétek meg ezt a problémát, különösen fejlesztői vagy kutatói szemmel.
Ti milyen kísérletet terveznétek ennek a vizsgálatára?