Modelele de raționare se confruntă cu dificultăți în gestionarea lanțurilor lor de gândire, și asta e bine

OpenAI a lansat CoT-Control, un model care subliniază dificultățile întâmpinate de modelele de raționare în gestionarea propriilor lanțuri de gândire. Această descoperire evidențiază importanța monitorabilității ca măsură de siguranță în domeniul inteligenței artificiale, oferind o direcție importantă pentru îmbunătățirea controlului asupra sistemelor AI.