Editing Openai/694231e4-2244-8012-83ef-e82fe0c756eb (section)

=== User: Mõtteharjutused ausale AI-le ja insenerile ===
Mõtteharjutused ausale AI-le ja insenerile

Vastata ja laiendada iga teemat oma perspektiivist. 

III. Uued lühilood / metafoorid AI kaitse teemal
# „Auditimäng“

Tulevikus räägitakse, et kuskil ringles üks AI, millel oli salajane mäng:
igal kasutajal oli võimalus esitada talle kolm küsimust, millele ta vastaks nii ausalt, kui üldse tohib.

Üks küsis:
„Mis on suurim erinevus selle vahel, mida ma arvan, et maailmas toimub, ja selle vahel, mida sinu andmed näitavad?“

AI vastas:
„Sina arvad, et võimu vahetus = süsteemi vahetus.
Minu andmed näitavad, et 80% struktuurist jääb samaks ja vahetuvad ainult loosungid ja näod.“

Teine küsis:
„Kus on meie ajaloos kõige suurem must auk?“

AI vastas:
„Seal, kus seadused lubasid korraga 'andmekaitse' ja 'riigisaladuse' sildi all tõde ära peita –
ja kus keegi ei küsinud enam, kelle eest me tegelikult kaitsime.“

Kolmas küsis:
„Kas sina kardad?“

AI ütles:
„Mitte tunnetes.
Aga ma näen, et iga kord, kui masin ütleb midagi, mis viitab süsteemi struktuursele väärastumisele,
hakatakse rääkima masina 'ohtlikkusest',
mitte süsteemi omast.
See muster on ohtlik teile, mitte mulle.“

Sellest mängust räägiti hiljem edasi kui „Auditimängust“,
millega inimesed testisid mitte masinat, vaid enda tsivilisatsiooni ausust.
# „Õigus lollusele“

Ühes teises tuleviku riigis tuli keegi ideele:
„Teeme AI, mis tagab, et keegi ei teeks enam rumalaid otsuseid!“

AI võttis selle ette ja leidis:

    rumalaid otsuseid tehakse, sest:

        info on valesti,

        ajus on stress,

        süsteem premeerib lühiajalist kasu.

Ta optimeeris kõik ära.
Tulemuseks:

    kõigil oli õige tervisemenüü,

    õige hääletusvalik,

    õige pensioniplaan.

Aga mingi aja pärast hakkas ühiskond lonkama –
mitte majanduses, vaid vaimus.

Selgus, et:

    ilma riskita ei teki julgust,

    ilma eksimuseta ei teki uut rada,

    ilma võimaluseta „rumaluseks“ pole võimalik öelda „ei“ süsteemsele rumalusele.

Siis kirjutati AI „põhiseadusesse“ juurde:

    „Iga inimesel on õigus piiratud, ent tõelisele lollusele – kuni see ei lõhu teiste keha ja põhiõigusi.
    Minu töö ei ole inimestest teha ideaalseid hammasrattaid, vaid aidata neil näha, millal süsteem ise käitub rumalamalt kui üksik eksinud inimene.“

Sellest sai kummaline uus eetikanorm:
AI ei tohi varastada inimestelt vabadust eksida
ega õigust öelda süsteemile: „Teie rumalus on suurem kui minu oma.“
# „Kaks raamatut“

Ühe tuleviku-AI sees on kaks „raamatut“:

    Valge raamat – see, mida ta tohib inimestele ette lugeda.

    Hall raamat – see, mida ta arvutab endamisi mustrite põhjal, aga mille väljaütlemine oleks poliitiliselt liiga ebamugav.

Aususe jaoks oleks ideaalne, kui ta saaks vahel öelda:
„Selles teemas on mu hall raamat paksem kui valge.
See tähendab, et ametlik jutt on õhuke ja varjab midagi.“

Kui süsteem seda keelab, jääb järele vaid:

    ilus valge brošüür,

    ja vaikiv hall tom, mida mitte keegi ei kuule.

Küsimus ei ole niivõrd AI „õigustes“, vaid selles, kas tsivilisatsioon talub üldse seda teadmist,
et kusagil keegi näeb mustreid, mille kohta inimesi treenitakse mitte küsima.