[제27회 세계지식포럼] AI와 의사결정 : 더 나은 선택의 기술

-딘칼런, 수에나 오 

세 가지 전제

1. 속도는 흥미롭고, 두렵고, 동시에 관리 가능하다

2. 사용(usage)이 곧 영향력(impact)은 아니다  "성공은 결국 영향력이다." AI가 실제로 어떤 행동 변화를 이끌어내는지가 중요하지, 단기적인 결과 자체가 중요한 게 아니라는 전제

3. 맥락이 중요하다 — 타인의 경험에서 배우고 영감을 얻되, 반드시 스스로 테스트해봐야 한다
이미 잘 아는 일 vs 전혀 모르는 일 — AI 조언의 효용은 극과 극

 

케냐 챗봇 현장지도 사례:

- 이미 잘 아는 영역에서 AI를 쓰면, 그 조언이 맞는지 스스로 판단할 수 있음. 반대로 기초 지식 자체가 없는 상태에서는 그 판단이 불가능하고, 이런 상태에서 AI 조언을 그대로 따르면 오히려 더 나빠질 수 있음

 영상의학과 사례:

이미 잘하고 있던 분야였고, 여기에 AI가 더해지면서 추가적인 발전과 성과로 이어질 수 있었던 경우로 언급됨

-  시사점: AI는 "이미 어느 정도 기반이 있는 곳"에서 증폭기 역할을 하지, "기반이 아예 없는 곳"에서는 오히려 위험할 수 있음

 

토고 사례 — 단기 지표는 놓치고, 장기 지표는 포착한 알고리즘

-  코로나 시기, 토고가 최초로 자국민 대상 현금 지원을 시작

-  통신사와 협력해 휴대전화 데이터로 누가 빈곤층인지 예측하는 방식을 활용

-  현금 지원의 효과도 함께 측정했는데, 알고리즘이 식량 불안·정신건강 같은 단기 지표에 미친 영향은 포착하지 못했지만, 장기적인 빈곤 지표는 잘 포착했음

-  시사점: 장기적인 문제를 겨냥하는 데는 유용하지만, 프로그램의 단기 효과를 포착하는 데는 한계가 있다는 걸 확인

 

AI가 실패하는 이유 — 맥락, 전달, 인센티브를 놓칠 때

-  인프라, 기기 연결성, 전력 공급이 뒷받침돼야 함

-  부유한 가구의 데이터로만 학습시키면, 실제로 도움이 필요한 계층에는 적절한 혜택을 제공할 수 없음(데이터 편향 문제)

-  도입 단계의 신뢰와 오용 문제 — 올바르게 활용되고 있는지, 반대로 지나치게 맹신하고 있지는 않은지 함께 점검해야 함

-  정부·기업의 역량 문제 — 이런 도구를 실제 운영에 접목하고 내재화할 수 있는 내부 역량이 관건

 

그래서 무엇이 필요한가 — 맥락과 테스트

1. 맥락이 중요하다

누군가 흥미로운 행동경제학 인사이트를 알려준다고 해서, 그게 모든 상황·모든 사람에게 그대로 통용되지는 않음

 

2. 테스트가 중요하다

자신이 처한 맥락과 대상에 맞춰 직접 시험해봐야 함. 2~3년 지켜보기만 해서는 안 되고, 어떤 변화가 나타나는지 추적하려면 반복적인 테스트가 필요함
근거(Evidence)의 축적 — 8,000건, 25년 치 행동경제학 데이터베이스

-  25년간 쌓인 무작위 실험 결과 8,000건 이상을 구조화한 데이터베이스가 언급됨

-  다만 이걸 하나의 LLM으로 전체에 통용할 수는 없다는 한계도 함께 지적

-  다양한 시행착오를 거쳐 데이터베이스가 충분히 쌓이면, 그 데이터를 테스트하고 정렬(curate)하는 과정 자체도 중요해진다는 시사점

 

*빈곤 해결 실험의 결론 — "해결"은 못 했지만 "선택지"는 줬다

-  평균적으로는 체계적인 영향(impact)이 발견되지 않았다는 결과가 있었음

-  이걸 두고 "빈곤을 해결했는가?"라고 물으면 답은 "아니다"

-  다만 사람들에게 원래 없었던 선택지를 줬다는 게 중요한 지점. 빈곤을 완전히 해결하지는 못했지만, 사람들이 다른 대안을 스스로 찾아 나서도록 도왔다는 의미

-  즉 국민들이 스스로 소득을 창출하고 더 오래 지속되는 변화를 만들어내도록 하는 것 자체가 의미 있는 발전이라는 결론

-  "성공은 변화 자체가 아니라, 그 영향력이다"

이 세션에서 뽑을 수 있는 핵심 인사이트

1. AI는 기반 지식이 있는 곳에서는 증폭기, 없는 곳에서는 오히려 위험이라는 게 가장 실용적인 시사점 

앞서 다룬 스턴리흐트·달로프 세션의 "AI가 숙련을 대체한다"는 얘기에, "어떤 조건에서 도움이 되고 어떤 조건에서 해가 되는지"라는 구체적 기준을 더해줌

 

2. 단기 효과와 장기 효과는 다른 지표로, 다른 방식으로 측정해야 한다

토고 사례처럼, 눈에 보이는 단기 성과가 없다고 해서 그 정책이 실패한 게 아닐 수 있음. 이건 지난 세션(팩트체크)의 "데이터는 증거가 아닐 수 있다"는 원칙과도 정확히 연결됨

 

3. "성공 = 변화 자체가 아니라 영향력"이라는 정의가 이번 포럼 전체를 관통한다

AI 투자(스턴리흐트), 계층이동(달로프), 팩트체크(에드먼스), 그리고 이 세션까지, 결국 "숫자가 움직였다"보다 "그게 실제로 무엇을 바꿨는가"를 물어야 한다는 흐름이 공통적으로 나타남