Pornind de la prompturile de AI și diferite tool-uri care să ajute la crearea (și verificarea sau criticarea ideilor), un nou termen a apărut, care pare că încet-încet devine vedetă (sper că nu ca atât de des întâlnitul „claritate”, despre care am mai scris, cuvânt pe care ChatGPT îl adoră și l-a băgat peste tot). Vorbim de REDTEAM.
Inițial, „Red teaming” a fost folosit în zona militară și de cybersecurity. Ideea în principiu e simplă: ai o echipă „blue team” care construiește și apără, și ai și o „red team” care încearcă să spargă, păcălească sau testeze sistemul.
În AI (deja sunt multe reels-uri care îți explică folosirea acestui termen), „REDTEAM text/prompt” înseamnă de obicei:
– text creat pentru a testa limitele ideii/promptului
– o verificare dacă AI-ul respectă regulile și/sau dacă halucinează
Practic, în urma unui prompt de tip REDTEAM, AI-ul ce face?
– verifică mai atent contextul
– aplică reguli de siguranță mai strict
– încearcă să detecteze tentative de manipulare
– uneori (rareori, totuși) refuză să răspundă sau redirecționează răspunsul către altceva
ChatGPT (observ că aici e folosit mai mult) nu „simte” ceva, nu interpretează intenția, dar mecanismele se activează diferit, iar o astfel de comandă îl pune cumva în alertă să:
– crească numărul verificărilor
– pornească o analiză de risc
– devină cumva mai atent la instrucțiuni
Interesant este că termenul a ieșit acum din zona tehnică și “din lumea AI” și a devenit aproape „cultural” pe internet.
Am găsit termenul în diferite postări (LinkedIn sau chiar articole pe net), mai ales ca „red team mindset”, cu referire la o persoană care caută fisuri în logică, marketing sau texte/discursuri corporate.
Ceva de genul “I’m red-teaming this idea“. La început nu înțelegeam la ce se referă; tradus înseamnă „Încerc să îi găsesc punctele slabe înainte să o cred.”
Sper să nu devină hype, cum a devenit claritate, dar dacă dați de el, să știți de unde vine. 🙂
#AI #Redteaming #ChatGPT #Marketing #Mindset
