Îmbunătățirea ierarhiei instruirii în LLM-urile de frontieră

IH-Challenge antrenează modele pentru a prioritiza instrucțiunile de încredere. Aceasta îmbunătățește ierarhia instrucțiunilor, siguranța și rezistența la atacurile de tip prompt injection. Acest progres este important pentru creșterea fiabilității sistemelor AI.