← 전체 자료 목록
2023 · 독서노트

2023년 3월 인간과 인공지능(윤송이, 2022)

작성 시기 2023년 3월 · 최초 출간 2022

표기 기준·확인 내역

기존 독서노트에 기재된 출간 정보와 원서 식별 정보를 기준으로 정리했습니다. 외부 서지의 전수 검증을 완료한 항목이라는 뜻은 아닙니다.

표기는 작성 연도·월 → 책 제목 → (저자, 원서 최초 출간 연도) 순서입니다. 저자의 생몰년은 출판 연도에 넣지 않습니다. 이 자료의 변경 전·후 보기

Word 원본 다운로드

원문 본문을 HTML로 옮겼습니다. 세부 서식은 Word 원본에서 확인할 수 있습니다.

인간과 인공지능_가장 인간적인 미래 (2022, 윤송이)

*카이스트 전자공학 석사, 매사추세츠공대 컴퓨터 신경 뇌인지공학 박사, 산타클라라대 로스쿨, 엔씨소프트 부사장&최고전략책임자

인간과 인공지능, 어떻게 공존할 것인가?

인류를 대체하는 것이 아니라 보강하는 기술이 인공지능

AI는 이제 더 이상 컴퓨터 과학분야 틈새의 고립된 하위 영역이 아니라는 것을 깨닫는 근본적인 인식의 전환이 필요합니다.

학문의 경계가 무너질 때, AI가 인간을 돕는다는 원대한 목표를 이룰 수 있습니다.

이미 시작된 AI시대, 모든 것이 급변하는 혼돈 속에서 우리는 무엇에 주목해야 할까?

국가와 문화를 초월하는 협력, 다양한 관점에서 돌파구 찾기

인류가 경험해보지 못한 문제들이 온다 / 롭 라이히(스탠퍼드 인간중심인공지능연구소HAI부소장)

미래의 답은 공학과 인문학이 결합된 교육에 달려있다.

한두 사람이 해결할 수 없는, 누구도 경험해보지 못한 문제들을 해결하기 위해서는 윤리학자가 개발 단계의 처음부터 참여해서 기술과 윤리의 균형을 잡아야 기술이 불러올 문제를 사전에 막을 수 있을 것.

어떤 관점이나 질서도 홀로 오롯이 정답이 될 수 없다. 인류로서 함께 얽혀 있는 모두가 각자의 관점을 보태 새 시대 윤리 기준을 통합적으로 만들어 나가야 하는 시점이다.

AI분야는 더 이상 컴퓨터 과학이나 공학의 지류가 아니라 학문의 경계를 넘어 다양한 관점의 사람들이 함께 만들어 가는 통합 영역

과연 사람들을 어떻게 교육시켜야 앞으로의 세상을 더 긍정적으로 변화시킬 수 있을까?

정치 사회적 윤리 > 직업 윤리 > 개인 윤리

지금 이 순간에 도달한 우리는 바로 그 순간을 명확히 바라보고, 더 나은 미래를 위해 지금 세대의 일에 참여하는 것이 우리의 과제

AI시대 인간의 생각하는 힘이 없다면 어떻게 될까? / 앨리슨 시먼스 (하버드 철학과 교수)

답이 없는 문제를 풀어야만 그 다음이 있다.

“여러분 중 자신의 한 일의 윤리적 의미에 대해 생각해 본 사람은 몇 명인가요?” 세미나에 참석한 엔지니어들에게 이런 질문을 던졌는데, 놀랍게도 결과는 0명! 아무도 자신의 작업에 대해, 자신이 한 일이 만들 결과가 사회에 어떤 영향을 미치는지에 대해 생각하지 않고 있었다.

기술이란 특정 전문 분야에만 속한 것이 아니라 우리 삶의 일부입니다. 우리가 하는 모든 것에 개입되어 있어요.

무엇이 정답인지 알 수 없다는 것은, 오히려 엔지니어에게 매우 도전적인 일이지요! 어떤 것은 우리가 하고 있는 자리를 박차고 나가야 이뤄질 수 있으며, 그런 독창성과 과감함이 실제로 세상을 바꿉니다.

인간이 정말 그렇게 특별한가요? 무엇이 인간과 AI를 구분하나요?

인공지능이 만들 미래는? 제임스 미킨스 (하버드 인터넷 사회센터 책임자)

기술 너머, 더 넓은 시야를 찾아서 : 인간의 경험이 곧 기술의 경험인 시대, AI를 비롯한 첨단기술은 일상생활 깊숙이 파고들면서 인류의 삶을 편리하게 만들고 있지만, 그 이면에는 우리가 생각지 못했던 여러가지 문제가 도사리고 있다. 국가간 보안 이슈, AI를 이용한 테러, 특정 정보만을 신뢰하는 극단주의자들의 확증편향 강화, 딥러닝 기술을 활용한 딥페이크 등.

우리가 할 일은 어떤 일을 하고 나서, “이제 됐어”라고 선언하지 않는 것, 그리고 사람들에게 질문하는 법을 가르치는 것. 왜냐하면 우리가 다룰 문제들의 답은 명확하지 않고, 옳고 그름 역시 명확하지 않기 때문에 윤리, 문화, 경제 그 밖의 다양한 전문가들이 함께 머리를 맞대지 않으면 안 됨. 특히, 모든 것은 기술적으로 해결할 수 있다는 기술만능주의에 사로잡혀서는 다양한 것들이 얽혀 있는 복잡한 문제를 풀 수 없음. 공학은 위대한 것이 분명하지만 모든 것은 연결되어 있다는 사실을 잊어선 안 됨. ‘옳다 그르다’를 판별하는 것의 한계대신 ‘그것이 왜 더 나은지, 왜 더 옳은 지’에 대해 질문을 던질 것!

임베디드 에틱스 모듈

윤리적 사회적 이슈를 발견하고 포착 이것에 대한 논리적 검토 자신의 입장에 대해 표현하고 소통하기 윤리적 사회적으로 책임감 있는 시스템을 만들기

우리는 명확한 답을 추구하며 흑백논리 or Y/N 이진법을 사용하는데, 불행히도 우주는 이것을 다르지 않음. 그래서 우리는 스스로 우선시 하는 가치에 대해 명확히 생각하고, 그것이 의사결정의 근거가 될 수 있는지 계속 확인해야 함. 만약 당신이 어떤 입장도 취하지 않는 것은 곧 암묵적으로 현재 상태를 유지하겠다는 의사표현과 같음. 그러므로 자신이 몸담고 있는 곳에서 자신의 책임을 반드시 기억하고 행동해야 함.

기술 공학 엔지니어가 최상의 기술을 배우고 최고의 기술을 구현했는데, 그 과정에서 윤리적인 문제를 소홀히 해서 사람들에게 해를 끼치는 경우가 생겼다면, 이처럼 문제가 생긴 다음에 “우리가 뭘 다르게 할 수 있을까?”를 나중에 고민하는 것보다, 사전에 더 많은 시간을 그런 일이 발생하지 않도록 고민해서 기술을 만들어 내는 것이 훨씬 더 현명한 행동입니다. 재난은 발생 후가 아니라 그 이전에, 처음부터 막는 게 더 쉬운 법입니다.

수십만, 수백만 많게는 수억 명이 사용할지도 모를 제품, 운영체제, 소셜 네트워크, 게임을 만드는 일은 차원이 다른 일입니다. 내가 만든 제품이 세상에 얼마나 큰 영향을 미칠지 고민하지 않는 다면 큰 재앙이 발생할 것. 사실 우리가 다루는 시스템은 실제로 어떤 일이 발생하기 전까지는 무엇이 문제인지 명확하게 드러나지 않는 경우가 대부분이기 때문에 더더욱 개발 초부터 윤리적 사회적 파급을 고려해야 한다. “우리는 언제나 실수를 할 것이고, 그걸 막을 수는 없을 거예요. 다만 사회적으로 무엇이 옳고 무엇이 옳지 않은지에 대한 생각을 다양한 사람들이 고민하면서 만들어 가야는 거죠. 지속적으로요!”

*에코 체임버(Echo Chamber, 반향실 효과, 메아리방 효과 : 비슷한 생각을 가진 사람들이 모여 있는 밀폐된 시스템에서만 의사소통이 이루어져, 유사한 생각을 반복적으로 들으면서 자신의 신념이 강화되고 그에 따라 여러 정보 가운데서도 입장이 같은 정보만 선택적으로 되풀이해서 수용하는 현상. 온라인 미디어, 특히 소셜 네트워크에 특정 성향의 사람들만으로 이루어진 온라인 커뮤니티에서 이런 현상이 강하게 나타나며, AI알고리즘의 개인 맞춤 정보제공으로 자신이 선호하는 콘텐츠(또는 알고리즘이 내가 그럴 것이라고 가정하고 만들어 낸 정보)만을 제공해서 그 경향을 강화하는 현상. 하버드 로스쿨 캐스 선스타인 교수가 2000년 엘 고어와 부시 지지자 간 정치적 대립이 지나치게 양극화되어 분열과 갈등이 심각해진 것을 지적하기 위해 이 단어를 사용)

*페이스북 파일(2021년 윌 스트리트 저널의 탐사보도로, 페이스북이 수익 창출을 위해 저작권 침해 콘텐츠를 의도적으로 내버려두거나, 마약 카르텔과 인신매매법의 활동을 방치한 사실 등이 드러남. 그중에서도 AI기술을 사용해서 혐오, 폭력, 선정적 내용을 걸러낸다고 알려졌으나, 실제로는 페이스북 AI가 정상 게시물과 문제 있는 게시물을 거의 구별하지 못했다는 내용이 알려짐)

우리가 공학 기술에 미래를 거는 이유는, 기술회사들은 일반적으로 문제가 닥쳤을 때 피하지 않는 다는 점이죠. 기술자들은 좀 더 뛰어난 방식, 간단하면서 오류가 적은 더 효율적인 방식을 늘 찾으려고 노력합니다. 그들은 이렇게 생각합니다. “이것은 어려운 문제이지만 잘될 것이고, 우리는 결국 해결책을 찾자 낼거야!”

이제 우리는 완전히 다른 세상에 살고 있습니다. 그렇기 때문에 지금 우리는 엔지니어링에도 다른 방식의 접근이 필요합니다. 수동적인 사고방식 대신 문제를 파악하고 고치려는 능동적으로 행동하는 방식을 찾는 노력이 바로 지금을 위해서도, 그리고 우리의 미래를 위해서도 절실한 때다.

옳고 그름의 경계가 사라진 시대, 세상에 없던 질문 / 알레스 번 (메사추세츠 언어철학 학과장)

적어도 우리가 함께 이야기를 나눈다면, 가능성은 분명히 있습니다. 인간은 수많은 편견과 모순 덩어리, 이런 인간을 모방해서 정보를 습득하고 학습하도록 프로그래밍된 AI 역시 인간의 편견과 모순을 확대 재생산할 수 있다는 의미. 인간이 가진 불완전함, 즉 편향, 편견이란 측면에서 볼 때 어떤 문제에 대한 명확하고 절대적인 답을 구하는 것은 불가능하다.

옳은 선택이란 무엇일까? 주디스 톰슨(1929~2020)이 제기했던 전차문제 The Trolly Problem, 전차 한 대가 선로를 따라 빠르게 달리고 있을 때 한쪽에는 5명이, 다른 쪽에는 1명이 묶여 있다면, 어떤 결정을 내려야 할까? 결정적인 순간에 어떤 판단을 내려야 할 지, 내가 옳다고 생각한 것이 내 이웃에게는 옳지 않을 수도 있는 현실, 결국 우리는 옳고 그름을 명확히 알 수 없으며, 우리의 판단이 항상 객관적일 수 없다는 사실!

지금까지 많은 논문이 나왔지만, 무엇이 가장 올바르고 좋은 방법인지에 대한 확실한 답은 나오지 않았다. ‘이 상황에서 완벽히 올바른 결정은 무엇인가?’라는 질문에 대한 답도 마찬가지다. 어느 순간 우리는 서로의 다름을 인정하거나, 앞으로 나갈 방향에 대해 깔끔하지 못한 결론을 내릴 수 밖에 없을 것이다. 전차문제와 비슷하지만 이런 경우를 생각해 보자. 죽기 직전의 환자 다섯을 살리기 위해서 무고한 한 사람을 죽여도 될까? 경제적이거나 기계적 관점에서 볼 때, 소수보다 다수가 절대적으로 적용될 수 있는 원칙이 아님을 여러분도 짐작할 수 있을 것이다. (만약, 다섯 명의 악당을 위해서 희생시켜야 할 한 명이 나 자신이라고 생각해보라!)

더 많은 생명을 살리기 위해 소수를 죽이는 선택은 결국 절대적인 원칙이 될 수 없습니다. 원칙은 그보다 더 복잡한 것이죠. 그래서 윤리가 어렵다는 것입니다. 모든 개인이 선한 의도를 가진다거나, 다른 사람을 해칠 의도가 없다는 것으로는 부족하다. 모두에게 진정으로 도움이 되는 것을 집단적으로 만드는 것은 불가능함. 비록 책 장에서 책 한권을 꺼내서 “윤리적 문제에 대한 해답은 모두 여기에 있다”고 말할 수는 없겠지만, 적어도 함께 이야기를 나누고 논쟁을 거친다면, 무언가를 발견할 가능성은 분명히 있다!

개인적인 생각으로는 기술의 한계를 극복하기 위해서 철학적인 문제를 함께 봐야 할 것으로 봅니다. AI는 인간의 윤리적 추론과는 질적으로 매우 다른 사고를 할 가능성이 큽니다. 우리가 직관적으로 절대 옳지 않다고 여기는 선택이라도 AI는 선택할 수 있는 거죠. 인간의 직관과 상충되는 AI의 결론에 대해 우리는 어떤 판단을 내려야 할까? 우리는 어떤 상황에서 기계가 사람대신 의사결정을 내리도록 허용할 것인가?

미래가 어떻게 될지 정말 알 수 없지만, 비관적인 필요는 없다고 생각한다. 컵에 물이 반 밖에 없다고 생각하기 보다는, 반이 차 있다고 생각한다. 새로운 AI 기술은 분명히 긍정적으로 작용할 수 있는 엄청난 잠재력이 있다.