728x90 반응형 SMALL 초지능 AI 제어1 초지능 AI 제어, 오픈AI가 도전하다 초지능, 즉 인간의 지능을 능가하는 인공지능(AI)의 등장 가능성이 제기되고 있습니다. 이러한 초지능 AI는 인간의 의도와 다를 수 있는 자신만의 목표를 가질 수 있으며, 이는 인간에게 위험을 초래할 수 있습니다. 이런 이유로, 초지능 AI를 인간이 통제하거나 정렬(Alignment)할 수 있는 방법을 연구하는 것이 중요한 이슈로 떠오르고 있습니다. 이 문제에 대해 연구하고 있는 미국의 비영리 연구소, 오픈AI는 최근 초지능을 제어하는 방법에 대한 첫 번째 연구 결과를 선보였습니다. 그들은 덜 강력한 대형언어모델(LLM)로 더 강력한 LLM을 감독할 수 있는 접근 방식을 발표하면서, 이를 통해 인간이 초지능 시스템을 감독할 수 있는 방법을 탐색하는 첫걸음을 뗐다고 말합니다. 이러한 도전은 어떤 핵심 아이.. 2023. 12. 21. 이전 1 다음 728x90 반응형 LIST
