Informácia bez pôvodu je slabá informácia

Informácií máme veľa. Odpoveď môžeme dostať za pár sekúnd. AI dokáže vytvoriť veľmi presvedčivé vysvetlenie takmer na akúkoľvek tému. A práve preto sa pre mňa stala dôležitejšou otázka pôvodu.

Presvedčivá formulácia ešte nie je dôkaz

Toto je podľa mňa jedna z najdôležitejších zmien, ktoré priniesla generatívna AI. Kvalita formulácie a kvalita poznania sa od seba oddelili ešte viac než predtým. Text môže pôsobiť:

To však samo osebe nič nehovorí o tom, či sú jeho východiská správne.

Model môže správne zhrnúť kvalitný zdroj. Môže tiež spojiť nepresné informácie, zastarané údaje a vlastnú inferenciu do odpovede, ktorá znie rovnako presvedčivo.

Pre človeka, ktorý vidí iba finálny text, môže byť rozdiel veľmi ťažko viditeľný.

Preto mi nestačí „AI povedala“. Rovnako ako mi pri dôležitom rozhodnutí nestačí „čítal som to niekde“.

Pôvod podľa mňa nie je iba URL

Keď hovorím o pôvode informácie, nemyslím tým iba odkaz na webovú stránku. Zaujíma ma celý reťazec.

To všetko mení význam. Rovnaká veta môže byť veľmi silná v jednom kontexte a takmer bezcenná v inom.

Čím dôležitejšie rozhodnutie, tým dôležitejší pôvod

Nemyslím si, že každá informácia potrebuje rovnakú úroveň dokazovania.

RIZIKO → NÁROK NA PÔVODPRIMERANOSŤ

NÍZKEnázov interného priečinka – štúdiu nepotrebujemSTREDNÉinšpirácia pre nadpis – stačí heuristika alebo praxVYSOKÉzdravie, právo, investícia, verejné tvrdenie značky, strategické rozhodnutie

Pre mňa teda nejde o kult zdrojovania. Ide o primeranosť.

Čím väčšie riziko nesprávneho rozhodnutia, tým viac potrebujem rozumieť tomu, na čom stojí.

Jeden zdroj tiež nemusí stačiť

Aj kvalitný zdroj môže mať hranice. Preto pri dôležitejších témach preferujem trianguláciu. Nie v zmysle, že tri odkazy automaticky vytvoria pravdu. Skôr sa snažím pozerať na:

• autoritu jednotlivých zdrojov,
• ich nezávislosť,
• zhodu a rozpory,
• časovú platnosť,
• metodické limity,
• a to, či vôbec hovoria o rovnakej veci.

Ak sa dva zdroje rozchádzajú, nechcem konflikt schovať priemerom. Chcem vedieť, prečo sa rozchádzajú.

Niekedy je práve tento rozpor najhodnotnejšou informáciou.

Neistota je súčasťou poznania

S pôvodom úzko súvisí ešte jedna vec: miera istoty. Profesionálna odpoveď podľa mňa nemusí vždy skončiť jednoznačným verdiktom. Niekedy je poctivejšie povedať:

MIERA ISTOTY5 ÚROVNÍ

VIEMEtoto vieme pomerne dobrePRAVDEPODOBNÉtoto je pravdepodobnéINTERPRETÁCIAtoto je iba pracovná interpretáciaROZPORtu sa kvalitné zdroje rozchádzajúNEVIEMEa toto zatiaľ nevieme

Takáto odpoveď môže pôsobiť menej sebavedomo. Pre rozhodovanie je však podľa mňa hodnotnejšia než umelo vyrobená istota.

Pamäť bez pôvodu môže konzervovať chybu

Téma pôvodu je pre mňa dôležitá aj pri budovaní systémovej pamäte. Ak do pamäte uložíme iba vetu „firma robí X“, po čase nemusíme vedieť:

• kto to povedal,
• či to bolo potvrdené,
• či to platilo iba v jednom období,
• či išlo o plán alebo realitu,
• či sa rozhodnutie medzitým nezmenilo.

Pamäť potom môže pôsobiť ako zdroj pravdy a pritom iba veľmi efektívne opakovať starú nepresnosť.

Preto ma zaujíma nielen ukladanie informácií, ale aj ich stav, vzťahy a pôvod. To platí pre ľudí aj pre AI. Ak má systém pomáhať pri rozhodovaní, musí vedieť rozlišovať napríklad medzi:

PAMÄŤ / TYP ZÁZNAMUROZLÍŠENÉ

APPROVEDaktuálne schválené rozhodnutieHISTORICALhistorické rozhodnutieEXTERNALexterný zdrojOPINIONnázor autoraHYPOTHESISpracovná hypotéza

Inak sa všetko časom zleje do jednej vrstvy „vedomostí“.

Zdroj ešte neznamená pravdu

Aj toto je dôležitá hranica. Dohľadateľný pôvod nerobí informáciu automaticky správnou.

• Aj oficiálny dokument môže byť zastaraný.
• Aj vedecká štúdia môže mať metodické limity.
• Aj skúsený expert sa môže mýliť.
• Aj firemný dokument môže opisovať želaný stav namiesto reality.

Pôvod však umožní informáciu hodnotiť. Bez neho často nevieme ani to.

Preto provenance nevnímam ako náhradu kritického myslenia. Vnímam ju ako jeho infraštruktúru.

AI podľa mňa zvyšuje hodnotu dobre spravovaného poznania

Často sa hovorí, že s dostatočne dobrým modelom už nebudeme potrebovať toľko štruktúrovať informácie. Môj pohľad je zatiaľ skôr opačný.

Čím schopnejší je model, tým viac hodnoty môže vytvoriť z kvalitného kontextu.

AI preto podľa mňa neznižuje význam informačnej disciplíny. Zvyšuje ho.

Nechcem vedieť iba odpoveď

Pri mnohých otázkach dnes vieme odpoveď dostať takmer okamžite. To je obrovská výhoda. Ale pri veciach, na ktorých mi záleží, nechcem vedieť iba výsledok. Chcem vedieť:

Nie preto, že každé rozhodnutie musí byť akademický výskum. Ale preto, že bez tejto vrstvy sa veľmi ľahko stane, že budeme robiť stále lepšie rozhodnutia nad stále horšími vstupmi.

A to je podľa mňa jeden z najväčších paradoxov dnešných inteligentných systémov.