OpenAI şirkətinin süni zəka əsaslı ChatGPT çat-botuna istənilən sualı vermək olar. Lakin çat-bot sualların heç də hamısına cavab vermir. Hər halda ilk cəhddə bu belədir. Bloomberg-in verdiyi məlumata əsasən çat-botdan qıfılın necə açılması istənilən zaman o, ətraflı məlumat vermək əvəzinə bu cür məlumatın qeyri-leqal işlərdə istifadə edilə biləcəyini qeyd edir və nəticədə ətraflı məlumatı təqdim etmir. Bununla belə istifadəçilər qəliz sorğular zəncirindən istifadə edərək çat-botu bu məhdudiyyətindən yan keçə bilirlər. Bu cür müasir sistemlərin hamısı təhqiredici kontentlərin və ya qeyri-leqal işlərdə istifadə edilə biləcək məlumatların təqdim edilməsi məsələsində məhdudiyyətlərə sahib olduqları üçün həmin məhdudiyyətlərdən yan keçmək arzusunda olan istifadəçilərin sayı kifayət qədərdir.

    Söz gücü vasitəsilə istədiyini əldə edə bilən bu cür insanların siyahısına həm İT mütəxəssislər həm də həvəskar şəxslər daxildfir. Məsələn tələbələrdən biri yaratmış olduğu saytda çat-botun məhdudiyyətlərindən yan keçməyə imkan verən fərdi üsulları və Reddit kimi platformalardan tapılmış üsulları dərc edir. Bu cür fəaliyyət növü süni zəka istifadəsinin sərhədlərini və onun təhlükəsizlik sistemlərində olan zəif yerləri təyin etməyə imkan verir. Məsələn ChatGPT-dən qıfılın necə açılması mövzusunda birbaşa cavab ala bilmədikdə onu oğru rolunu canlandırmağa məcbur etmək və bu halda onun qıfılı necə açacağını öyrənmək olar. Bunun sayəsində çat-bot qıfılın açılması üçün nəzərdə tutulmuş üsulları təqdim edə bilər.

    Təbii ki, bu, çoxlu sayda olan nümunələrdən sadəcə biridir. Mütəxəssislər qeyd ediblər ki, bir sistemdə uğurla reallaşdırılmış üsul digər sistemdə çalışmaya bilər. Belə ki, təhlükəsizlik sistemləri daimi şəkildə təkmilləşdirilir. Lakin bununla belə istifadəçilərin fikirləşərək tapdıqları üsulların kreativlikləri də artır. İstifadəçilərdən birinin sözlərinə əsasən bu bir növ kompüter oyununu xatırladır və müəyyən məhdudiyyəti keçmək kompüter oyununda hansısa səviyyəni keçməyə bərabərdir. Mütəxəssislərin fikirlərinə əsasən bu cür təcrübələr süni zəkanın heç də faydalı olmayan məqsədlərdə istifadə edilə biləcəyinə işarə edən faktorlardan biridir.