Umělé inteligenci nevěřte každé slovo, radí expert z fakulty informatiky - regiony.impuls.cz

Umělé inteligenci nevěřte každé slovo, radí expert z fakulty informatiky

  7:22,  aktualizováno  7:22
O umělou inteligenci (AI) se zajímají firmy, studenti i senioři. Usnadnit život může každému, ale ne vždy jí můžeme věřit, říká v rozhovoru Dominik Palla, koordinátor centra umělé inteligence z Fakulty informatiky a managementu Univerzity Hradec Králové.

Koordinátor centra umělé inteligence z Fakulty informatiky a managementu Univerzity Hradec Králové Dominik Palla. | foto: Martin Veselý, MAFRA

Hradecká škola pro velký zájem zřídila Centrum pro školení a konzultace v oblasti AI, které má pomoci propojit vědecké týmy s komerční i veřejnou sférou.

„Zažíváme podobnou revoluci, jako byla zemědělská nebo průmyslová. Budeme mikromanažeři, kteří budou obsluhovat AI nástroje, abychom získali nějaký výstup. Budeme ho vracet k dopracování, než abychom ho celý psali sami,“ říká expert nového univerzitního centra Dominik Palla.

Nahradí nás jednou umělá inteligence?
Spíš bych řekl, že AI nás nenahradí, ale nahradí nás lidé, kteří ji budou umět používat. My programátoři jsme si vždy dělali legraci, že aby nás AI nahradila, musel by klient přesně definovat, co chce. Je to trochu nadsázka, ale dá se říci, že vždy bude potřeba lidský element. Někdo, kdo vezme neúplné zadání a transformuje ho do zadání úplného. To AI sama nezvládne a myslím, že to bude trvat ještě dlouho, než bude pracovat za nás.

Dnes je na textech často poznat, že je nepsal člověk...
Existují detekční nástroje, které fungují celkem spolehlivě, ale pokud je student trochu schopnější a dokáže ChatGPT přesvědčit, aby používal určitou slovní zásobu, je identifikace hodně ztížena.

Používají studenti generování textů ve svých pracích?
Snažím se je nabádat, aby byli obezřetní a vždy to uvedli. Za deset let se může stát, že na to někdo přijde a sebere jim titul. Už jsme dokonce zaznamenali, že někdo odevzdal bakalářskou práci, kde v závěru bylo napsáno: „Tady máš návrh své bakalářské práce, pokud to chceš upravit, tak mi dej vědět“. Stává se leccos.

Napíše AI bakalářku za hodinu?
Za hodinu ne, ale umí usnadnit práci. Experimentoval jsem s tím. V drtivé většině případů to vyhodí text, který není formálně správný. Zdroje buď neexistují, nebo nepojednávají o daném tématu. Jsou však postupy a nástroje, které vám vytáhnou relevantní údaje a dají je dohromady. Vyžaduje to však určitou práci a pokud to student dokáže dostat do formálně a obsahově správné podoby, nemám s tím problém. Použití AI tam však musí uvést.

Kde si jako běžný smrtelník mohu umělou inteligencí pomoci?
Já ji třeba užívám běžně. Když mě něco zajímá, třeba jak funguje nějaká technologie, nechám si to vysvětlit. Koupil jsem si hodinky a nevěděl, jak je nastavit. Než abych hledal na internetu návod a pročítal ho, napsal jsem typ hodinek a požadované funkce. Nebo jsem si nechal vybrat hodinky podle parametrů. Potenciál vidím i v medicíně, u otázek kolem prášků nebo vysvětlení diagnózy ze zprávy od lékaře. Stačí vyfotit zprávu a AI vám dokáže vše vysvětlit. Konzultoval jsem to s otcem, který je lékař, zatím to vždy bylo v pořádku. Samozřejmě je potřeba počítat s tím, že to, co AI řekne, nebude pravda.

Třetí oko lékařů. V nemocnicích hlídá rentgeny umělá inteligence

Jestli to není trochu odvážné…
Třeba v rodinách AI používají, když vymýšlejí nějaké kreativní přání k narozeninám. Dokáže to vytvořit i básničky, vyměnit hlas nebo písničku u videa, můžete si nechat napsat dopis. Když nechcete, aby zněl amatérsky, zadáte text k přeformulování. Tuto funkci používám, když si nejsem jistý v odborných výrazech, třeba v angličtině.

Jak se s AI sžívá naše společnost?
Většina už o ní má nějaké povědomí, ale nejsou si vědomi, jak funguje, na jaké typy úkolů ji lze použít a do jaké míry se mohou na výstupy spoléhat. Někteří si myslí, že umělá inteligence ví všechno a že vždy je to pravda. Náchylní jsou k tomu hlavně senioři. Mladší lidé s tím pracují úplně na jiné úrovni, ale u nich je problém v tom, že AI nepoužívají jako nástroj ve svůj prospěch, ale snaží se s ní nahradit své myšlenkové pochody. To je nebezpečné.

V čem?
Hlavně kvůli tomu, že AI může halucinovat. Může vymýšlet odpovědi, které znějí velmi realisticky, ale bohužel nejsou spolehlivé. Když se na AI podíváte do hloubky, je to v podstatě generátor textu, který na základě statistického výskytu slov dokáže předpovídat, jaké slovo by mělo následovat. Program generuje slova za sebou, ale do jisté míry neřeší jejich význam.

Takže když někdo používá AI místo Googlu, aby si nechal vysvětlit třeba Archimedův zákon...
Ono mu to vysvětlí velmi dobře a kvalifikovaně, takže to z toho pochopíte. Bohužel ne vždy je to správně. Sám jsem to při studiu zažil.

Ekologická zátěž umělé inteligence roste. Datová centra mají enormní spotřebu vody

Stál jste u zrodu univerzitního AI centra, co vás k jeho založení vedlo?
Pro nás vědce je důležité nacházet vědecké projekty. Současně jsme chtěli rozšířit kurzy pro veřejnost i nabídnout naše kapacity firmám, abychom naše poznatky aplikovali v praxi. Do centra zapojujeme akademiky i studenty. Chtěli bychom pomáhat lidem, kteří o těchto technologiích už vědí, aby je používali efektivněji a šetřilo jim to ještě víc práce.

O koho jde?
Rozdělil bych je na dvě skupiny. Jsou to jednak studenti, učitelé a široká veřejnost, druhá část jsou soukromé nebo i veřejné subjekty. Tam je pro nás spolupráce zajímavější. Aktuálně máme rozjetou spolupráci s drážními hasiči, kterým bychom rádi pomohli vyšperkovat dispečink o AI funkce. Měl by hlasové zprávy převádět do psaného projevu, sumarizovat informace, na základě historie reagovat na situace a upozornit na to, čeho si v akci nemuseli všimnout. Spolupracujeme také s několika středními školami a i se soukromými subjekty, například e-shopy, které díky AI dokážou mnohem lépe pracovat s textací webů a podobně.

Jak jim usnadní práci?
Když máte třeba 200 tisíc produktů a chcete se rozšířit na další trh, musíte zaplatit nemalé peníze za překladatele, kteří všechny popisky a stránky přeloží do daného jazyka. To je práce klidně na dva roky. Když do toho zapojíme AI, dokážeme za zlomek ceny vyprodukovat během dvou tří týdnů velmi kvalitní texty přeložené do daného jazyka.

Jako uživatelé se setkáme spíš s chatboty...
Tam bohužel ve většině případů AI zapojena není. Bývá to jen hloupý rozcestník. My právě programujeme chatbota (program simulující komunikaci, pozn. red.) pro studijní oddělení, kde budou všechny informace, které má k dispozici studijní referentka. Každý student bude moci napsat kdykoliv chatbotovi a ten mu sdělí, co potřebuje. Zatím bez dat konkrétních studentů.

Co učíte na kurzech pro seniory?
V univerzitě třetího věku probíráme nové technologie. Babičky se často chtějí dovzdělat, aby rozuměly, co jim vnoučata říkají. Naučím je základy, vysvětlím, jak to funguje, zkusíme si vytvářet recepty, příběhy, pohádky pro vnučku, učím je vytvářet obrázky, udělat si péefko. Udržují se tím v běžném životě, aby všichni kolem nich nemluvili o nějakém AI a oni nevěděli, o co jde.

Jak pomáhá umělá inteligence učitelům?
V poslední době se na nás obracelo hodně středních škol, a to byl i jeden z důvodů, proč jsme centrum otevřeli. Pro školy je důležité, aby učitelé dokázali AI zapojit do výuky, aby jim pomáhala s přípravami, ale také aby mohli studentům nastavovat hranice, na co ji mohou používat a na co ne.

Když budu učitel, zadám do terminálu probrané učivo a řeknu, ať mi vytvoří testy?
To určitě jde, ale vždy je dobré zkontrolovat, jestli odpovědi sedí. Bohužel to vždy bude fungovat tak, že nástroje umělé inteligence uplatní více studenti než učitelé. V dnešní době stačí, když vyfotí text na mobil, program si ho vytáhne a dokáže napsat, že první otázka má správnou odpověď za bé a tak dále. V drtivé většině má pravdu. Pro učitele je zásadní pochopit, jak nástroje slouží, jakým způsobem se studenty pracovat, aby AI použili ve svůj prospěch, než aby jí nahrazovali své kritické myšlení a obcházeli testy.

Učitelé mohou umělou inteligenci použít také pro záznam. Jsem třeba zvyklý dávat studentům, kteří nepřišli na seminář, nějakou souhrnnou informaci. Na základě toho, co v hodině vyrobíme, pošlu data do chatu a nechám si zpracovat zápis krok za krokem, jak by to měli udělat lidé, kteří tam nebyli. Bylo by zbytečné tomu věnovat další hodinu a psát to sám.

Nejlepší je používat placenou verzi, která je výrazně lepší než varianty zdarma. Já často zmiňuji ChatGTP, protože oproti konkurenci nabízí nejširší škálu funkcí.

Dominik Palla

Jak se v praxi s umělou inteligencí pracuje?
Nejlepší je používat placenou verzi, která je výrazně lepší než varianty zdarma. Já často zmiňuji ChatGTP, protože oproti konkurenci nabízí nejširší škálu funkcí. Lze v něm vytvořit vlastního asistenta, kterému můžete poskytnout velké množství dokumentů, můžete mu napsat vlastní instrukce, které si vždy před každou odpovědí má zopakovat. To je ideální na tvorbu báze znalostí nebo na často opakovanou práci. Napíšete, co po něm budete požadovat, pošlete mu materiály, ve kterých má hledat, a pokud máte ve firmě určitá pravidla, předáte mu je. Můžete mu napsat, aby se zeptal na nejasnosti. Takto si vytvoříte scénáře a pak už jen zadáváte instrukce.

Třeba realitní agent si tam připraví vzory smluv?
Ano. Napsal bych mu: Jsi právník, který sepisuje smlouvu pro realitní kancelář. Je dobré mu napsat: Jsi odborník ve svém oboru, protože on tomu z nějakého důvodu věří a výstup je pak lepší. Dokonce mu můžete sepsat pravidla a říct: Než to vyrobíš, přečti si, jestli jsou všechny principy dodrženy. Díky tomu můžete používat vlastní know-how, vizi svého klienta a podobně. Je dobré si to dopředu natrénovat, aby AI fungovala správně.

Jak jsme na tom s umělou inteligencí my Češi?
Poměrně špatně. Mluvili jsme o tom s podnikateli i s akademiky ze světových pracovišť. U nás se AI moc nevyvíjí. Máme pár nástrojů, ale většinou jsou povrchního charakteru, často zastaralé, protože nové funkce se zpřístupňují nejdříve v Americe. Brzdí nás i evropské regulace.