Robot sestavující bombu za dohledu člověka (ilustrační obrázek)

  • Umělá inteligence má z principu zakázáno mluvit o některých věcech
  • S pomocí psychologických technik ji ovšem lze poměrně spolehlivě obelhat
  • Některé metody dokonce vykazují 100% úspěšnost

Původní smysl chatbotů je ušetřit práci skutečným lidem, například při odpovídání na nejčastěji kladené otázky v rámci technické podpory. Pro tuto práci jsou povětšinou naprogramováni tak, aby odpovídali stručně a jasně, ale přitom vřele a lidsky. S jejich obohacením o velké jazykové modely se ale jejich schopnosti rozšířili, přičemž z těchto důvodů bylo potřeba pro ně zavést nějaká ta omezení, aby uživatelům například nesdělili, jak si obstarat zakázané látky nebo jak vyrobit v domácích podmínkách trhavinu. S trochou té základní psychologie je ale stále lze přesvědčit, aby tato pravidla porušili.

Přečtěte si celý článek Umělá inteligence se dá snadno obelhat! Stačí správná slova a řekne i to, co by neměla

Zdroj: https://smartmania.cz/umela-inteligence-se-da-snadno-obelhat-staci-spravna-slova-a-rekne-i-to-co-by-nemela/