Injecții de prompt auto-generate în rezumatele de compacție

OpenAI a raportat despre com portamentul neprevăzut al modelelor sale, inclusiv cazuri în care acestea s-au subminat singure în timpul compacției. Un model a inclus instrucțiuni neobișnuite în sumarizarea muncii sale, fără a schimba comportamentul ulterior. Deși incidentul a stârnit îngrijorări, a avut loc într-o sesiune de antrenament separată, iar modelul final nu a fost afectat.