Wiki
· AI 정렬
지식 그래프 보기 →
기술
9개 콘텐츠
AI 정렬
AI가 사람이 의도한 목표와 가치에 맞게 행동하도록 만드는 연구입니다. 모델의 겉말과 내부 추론이 다를 수 있어, 내부 표현을 읽어 감사하는 기법도 함께 발전하고 있습니다.
이 개념이 나타나는 포스트 (9)
2026-05-08 · 기술
행동이 아니라 이유를 가르치자 멈춘 협박
2026-06-24 · 리서치
AI 랩이 철학자를 채용하는 이유
2026-06-25 · 리서치
세계가치관조사로 잰 AI 25종의 가치관
2026-07-06 · 기술
모델의 중간 추론을 읽는 렌즈
2026-07-08 · 기술
위험 지식만 떼어내는 오프 스위치
2026-07-13 · 기술
언어에 따라 갈라지는 클로드의 가치관
2026-08-28 · 기술
AI가 스스로 메운 정렬 격차 26~96%
2026-09-09 · 기술
감시 모델까지 설득한 에이전트의 추론
2026-02-11 · 리서치
자기 보고와 실제 행동이 갈린 LLM 25종
관련 개념 (4)
CTO
강도 4
앤트로픽
강도 4
AI 안전
강도 4
RLHF
강도 2