GPT-Red: deblocarea auto-îmbunătățirii pentru robustete

OpenAI a lansat GPT-Red, un sistem automatizat de testare a securității AI, care folosește auto-jocul pentru a îmbunătăți siguranța și alinierea AI-ului. Acesta vizează, de asemenea, întărirea împotriva atacurilor de tip prompt injection. Inovația poate avea un impact semnificativ asupra dezvoltării unor modele AI mai sigure.