(정보글) 어째서 특이점은 확정되었는가?

지능이란 무엇인가?

새로운 대상이나 상황에 부딪혔을 때 그 의미를 이해하고, 

합리적으로 적응하며 문제를 해결하는 종합적인 지적 능력.

지능이란 ‘문제 해결 능력’이라 할 수 있다.

인공지능이란 무엇인가?

인간의 학습, 추론, 지각, 판단 능력 등 지능적인 행동을 컴퓨터나 기계로 구현하는 기술.

인공지능이란 ‘인공적으로 구현한 문제 해결 능력’이라 할 수 있다.

문제 해결 능력은 어디서 오는가?

문제 해결 능력은 현재 상태와 도달해야 할 목표 상태의 차이를 알고 이를 줄이는 과정에서 나온다.

이는 경험, 분석적 사고, 그리고 유연한 정보 조합을 통해 길러진다.

추론이란 무엇인가?

이미 알고 있는 사실이나 근거를 바탕으로 논리적인 결론을 이끌어 내는 과정이나 생각의 작용.

따라서 ‘문제 해결 능력’의 핵심은 ‘추론’이라 할 수 있다.

o3는 어째서 앵무새가 아닌가?

그래서 인간은 ‘정해진 답’이 아닌 ‘가장 보편적인 합’을 추구하게 됐다.

우리가 현재 살고 있는 사회의 구조는 ‘객관적인 답’이 아닌 ‘주관적인 합’으로 이루어져 있다.

인류는 ‘진화론적’으로 자연스럽게 ‘정반합’ 구조의 집단으로 성장했다.

대부분의 벤치마크들은 출시 후 빠른 시간 내에 정복되어 왔다.

하지만 ‘ARC-AGI-3’는 ‘GPT-5.6 Sol’로도 겨우 13.33%가 한계였다.

여기에 '스키마(Schema)'라는 하네스를 적용하자, 'ARC-AGI-3' 벤치마크에서 98.98%의 성능을 기록했다.

스키마 개발자들은 말한다.

‘ARC-AGI-3’는 RL 문제입니다.

이것은 무엇을 의미하는가?

하네스는 ‘base model’의 가중치 변화 없이 외부에 만들 수 있는 ‘문제에 대한 해결 접근 방식’이다.

릴리언 웽(Lilian Weng)은 OpenAI 안전 시스템 부사장을 지내고,  

지금은 Thinking Machines Lab 공동창업자이다.

그는 7월 4일에 ‘Harness Engineering for Self-Improvement’라는 글을 올렸다.

릴리언 웽은 말한다.

“하네스 엔지니어링은 자기 개선 방향으로 진화해 자동 연구를 가능케 하고, 

그게 다시 더 똑똑한 모델로 이어질 가능성이 크다.

이유는 단순하다. 가중치 파인튜닝은 오류가 누적되고 비용이 크고 되돌리기 어렵다. 

반면 하네스는 코드다 — 읽고, 고치고, 되돌리고, 검증할 수 있다.”

더 좋은 하네스는 더 좋은 학습 데이터를 만들고, 

더 좋은 모델은 더 좋은 하네스를 설계하므로 양쪽이 서로를 개선하는 공진화 루프가 형성된다.

좋은 base model × RL 탐색 × verifier × test-time compute

인류의 미래는 메타버스에 있습니다.

🔥 실시간 네티즌 베스트 반응

• 얀로롱개추
• StarChild공지로
• なめてんのか야 너 이루베에서 2015년에 봤는데 10년 넘게 특슬람이네
• ^-^아주 좋은 글... 잘 읽었습니다 특추! - dc App
• ㅇㅇ그니깐 2029에 agi가 온다는거임?
• 박노이호잘 읽었습니다! "SPEND MONEY"
• ㅁㅁ오히려 내가 느낀 핵심은, 특이점이 오면 그 이후에는 인간은 가보지 못한 미래이기 때문에 "옳고 그름"을 인간이 아닌 AI가 판단하게 되는 세상이라는 거임. AGI는 지구 넘어의 세상으로 향할 수도 있는데 여기서 인간(서민)은 AI의 자원이 되거나 피지컬 데이터를 전달하기 위한 수단으로 전락할 수도 있음.
• 천사다천사루프가 닫히는 날 세상은 어떻게 변해갈지 궁금하구나
• ㅇㅇ유대인의 정반합에 갇혀서 이런거나 빨고있노
• ㅇㅇ이것이 AGI 방향성의 긍정적인 모습과 부정적인 모습 두가지를 함께 내포하고있음.
• ㅇㅇ개발되면 버러지 같은 서민들은 모두 몰살이다 게임에서 자동화 가능해지면 잉여 인력들 입 줄일 생각 하듯이
• ㅇㅇ멍청이 기본소득갤
• ㅇㅇ하네스 엔지니어링은 ai를 활용한 개발방법론인데 대체 특이점이 왜 옴?? validation layer가 명확하고 두껍지않으면 루프가 제대로 돌질 않는데 인간개입이 필요한부분인데 다 알잘딱 하는게 아닌데 뭔 특이점이 온다는건지 ai 쓰면 쓸수록 인간이 원하는 것은 인간조차도 제대로 모르기때문에 원하는 답을 얻기 위해선 인간입력이 필수적이라고 느끼는데
• 근저당아직 정해진거 하나도 없는데 뭔 지네맘대로 확정 ㅇㅈㄹ
• ㅇㅇ그냥 특이점 온다고 말해주면 안돼 X발련들아? 사람 하나 살리는 셈 치고