좀 이상하지만 재미있는 녀석들_저넬 셰인

**몇달전쯤 인공지능이 갑자기 궁금했습니다.

책을 검색해서 몇권을 사두었는데 책의 추천인에

눈길이 가서 뽑은 책입니다.

<기브 앤 테이크>의 애덤 그랜트와 <아웃라이어>를

쓴 말콤 글래드웰이 추천한 인공지능에 관한 

책입니다.

 

이 책을 한마디로 이야기 하면 “인공지능은 만능이

아니다”입니다. “다만, 램프의 지니가 될수도 있다”는

이야기도 합니다.

인공지능의 한계를 분명하게 설명해주니 오히려

인공지능의 개선점이나 활용방안도 생각해

볼 수 있었습니다. 반복해서 이야기하는 점은

인간의 편견을 쉽게 학습한다는 것입니다. 

인간의 흔적이 데이터로 모인 것이니 인간의

고정관념이나 선입견을 그대로 학습할 수

있다는 생각이 들었습니다. 실제 예도 많았습니다.

페이스북 M, 구글의 사례, 마이크로소프트

이미지 인식 알고리즘 사례 등 아직은 개선해야

될 부분이 많은 것 같네요.

 

이 책을 읽으면서 알게 된 것 중에 놀라운 

점은 인공지능의 기억력에 관한 사실입니다.

인간의 사고는 장기기억들에 기반하여

현재의 사실이나 조건을 판단하는 경우가 

많은데 인공지능은 그러한 장기기억의

체계가 없다는 것입니다. 물론 그 한계를

극복하려고 노력중이라고 합니다.

아마도 인간의 뇌 신경망을 따라가려면

너무나 멀었을지도 모른다는 생각이

들었습니다. 영화 <루시>를 보면 주인공이

세상의 모든 데이터를 인식해갑니다. 

그 정도의 데이터를 처리할 수 있는 성능의

컴퓨터가 생기면 가능할 듯 싶네요. 

 

책의 마지막쯤에는 저자는 ‘인공지능은 협업대상

이다’고 말합니다. 마치 어린아이를 키워서

성인이 되면 함께 일하는 모습이 상상이

되었습니다. 현재도 인공지능으로 실제로 줄어든

직업도 있고 앞으로 사라질 직업들도 있습니다.

하지만 작가의 얘기와 같이 결국 AI를 활용하는

것도 인간이고 그것을 활용한 일들도 인간을

위한 일일 것이라고 생각이 드네요.

 

인공지능의 원리와 한계점에 대한 책을

찾는 분께 권해드립니다. 인공지능에 대해

환상만 가지고 있는 분께도 추천드립니다.

 

*One Big Message :인공지능은 만능이 아니다

 

*One Action : 회의적 사고를 연습하자

 

*유용성(독서목적 관련) : 인공지능에 대한 이해가 좀 더 깊어짐

 

*핵심 키워드

-읽기 前 : 인공지능의미, 인공지능의 활용, 역지사지

-읽은 後 : 인공지능의 현재능력, 인공지능의 활용, 회의적 사고

 

*연관지어 읽고 싶은 책 : 클라우드 관련 책

 

 

(+)관련후기 : <이것이 인공지능이다>_김명락 저

hongbbang30.tistory.com/66

이것이 인공지능이다_김명락

 

<주요내용 및 느낀 점>

파란색:더 중요

보라색:내 생각

 

 

 

프롤로그 _AI는 어디에나 있다

7..AI는 사례를 통해 배운다

10..인간의 의사결정을 대체하려고 도입한

인공지능은 때로는 더 심한 선입견을 가질 수 있다

 

 

1장 AI는 뭘까?

17..기계학습 알고리즘은 시행착오를 통해 규칙을

스스로 알아낸다.

18..오히려 어린아이를 가르치는 것에 가깝다

31..AI 스스로 규칙을 만들도록 했을 때 좋은 

점은 한 가지 접근법을 수많은 문제에 적용할

수 있다는 점이다.

38..AI가 실수를 하는지 알기 어려운 경우들이

종종 있다.

41..AI가 미묘한 농담의 뉘앙스나 어조, 문화적

요소를 이해한다는 것은 불가능에 가깝다.

42..AI프로그램 가운데 다수가 설계자의

착각을 반영한다.

44..AI가 문제를 푸는데 성공할 지 실패할지는,

과제의 성격이 AI가 해결하기에 적합한지

아닌지와 큰 관련이 있다.

 

 

2장 어디에 있나요, AI

51..상업용 알고리즘은 이제 선거 결과나 스포츠

경기 결과, 최근에 나온 주택 매물 등에 관한

기사를 지역에 맞게 작성할 수 있는 수준까지

왔다.

57..실제로 튜링테스트는 알고리즘의 지능을 

측정하기에 좋은 기준이 아니다.

59..과제의 범위가 넓어지면 AI는 헤매기

시작한다.

**범용AI 개발의 어려움

66..지금으로서는 AI로 어떤 문제를 해결하려고 

한다면, AI에게 훈련시킬 데이터가 어마어마하게

많이 필요하다.

71..AI모형은 여러 번 재사용할 수 있다. 전이학습

데이터를 더 적게 써도 될 뿐만아니라 시간을

많이 절약할 수 있다.

78..기억의 한계에 대처하는 또 다른 전략은,

기본구성들을 하나로 묶어서 더 적은 것을 

기억해도 일관성이 유지되게 만드는 것이다.

**인공지능 입장에서 과거의 기억은 많이

가질 수 없는 것인가? 용량의 문제인가?

사람의 경우를 생각해보면 수많은 기억들을

군집화해서 용량을 줄이고, 그렇게 줄인 

용량을 근거로 긴 시간의 기억을 판단에

활용하는 것 같다. 인공지능의 입장은 잘

이해되지 않는다.

81..약간의 상식으로 해결하는 편이 더 나은

상황에, 복잡한 AI해법을 적용한다면 

오히려 위험할 수 있다.

 

 

3장 AI는 실제로 어떻게 학습할까?

91..인공신경망은 곤충 수준의 뉴런을 갖고 있다

92..인간의 뇌는 860억 개의 뉴런으로 만들어진

신경망이 아니라 860억개의 신경망으로 이루어진

신경망에 가깝다.

**초지능을 만드는 방법 중에 인간의 신경망을

모방하는 방법이 있습니다. 두뇌의 메커니즘을

많이 밝히지 못한 지금 수준에서 꽤 오래 걸리겠구나

생각하고 있었습니다. 그런데 이 부분을 읽는 순간

진짜 오래 걸리겠구나하는 생각이 들었습니다.

99..숨은 층을 추가해서 더 높은 복잡성을 

달성하는 이런 접근법을 ‘딥러닝’이라고 한다.

109..셀 층이 늘어나면 인공 신경망이 더 복잡한

과제도 수행할 수 있다는 사실을 보았다.

117..마르코프 체인은 대부분의 인공 신경망보다

몸집이 가볍고, 훈련이 빠르다

**핸드폰에서 예측 문자 기능,문자 자동완성과

다른것으로 보인다

127..랜덤 포리스트 기법

133..진화 알고리즘, 각 세대 내에서 가장 성공한

해법이 살아남아, 돌연변이를 일으키거나 

다른 해법과의 짝짓기를 하며 번식을 한다.

139..유감스러운 지름길을 택하는 것은

기계학습에서 늘 벌어지는 일이다.

143..이미지 필터링 툴은 보통 GAN의 작품이다.

146..피드백은 숫자의 형태가 되어야 한다.

정량적인 점수가 필요하다.

148..인간 심판관들조차 사람이 그린 이미지보다

GAN이 만든 이미지에 더 높은 점수를 주었다.

 

 

4장 노력 중이라고요!

162..데이터가 수중에 없다면 어떤 식으로든

데이터를 수집해야 할 것이다. ‘크라우드 소싱’도

값싼 하나의 옵션이 될 수 있다.

166..데이터가 그냥 많기만 해서는 안 된다.

168..인공 신경망의 메모리와 지능은 그렇게

폭넓은 과제를 감당할 수 없었다.

177..깨끗한 데이터조차 문제가 될 수 있는 

경우는 너무나 많다.

181..구글 번역기의 알고리즘은 기계학습을 

대규모로 상용화한 거의 최초 사례였다.

192..비주얼 프라이밍의 편향

 

 

5장 정말로 묻고 싶은 게 뭐예요?

201..어떤 프로그래머는 가상의 로봇 강아지에게

걷기 훈련을 시켜보려고 했다. 시뮬레이션의

물리 모형을 해킹하기까지 했다.

207..알고리즘에게 윤리와 상식을 제공하는

것은 프로그래머에게 달려 있다.

212..AI와 생물학적 진화가 소름 끼치게 

유사한 전략들을 생각해 내는 경우들이

종종 있다.

217..결국 알고리즘이 아무 일도 하지 않는

경우는 놀랄 만큼 흔하다.

218..호기심이 왜 그 자체로 보상 함수가

되는 걸까? 죽는 것은 지루하기 때문이다.

221..보상 함수를 설계하는 것은 기계학습에서

가장 어려운 일 중 하나다. 

222..유튜브 알고리즘의 보상함수 개선 과정.

 

 

6장 AI는 매트릭스를 해킹할 거예요

226..현실에서는 인간이 AI를 위해 시뮬레이션을

만든다.

AI는 우리가 AI를 위해 만들어 놓은 매트릭스 

안에서 학습한다

231..시뮬레이션 유기체들은 그들만의 세상에서

에너지원을 찾아내고 활용하도록 진화하는 데

아주 능숙하다. 그런 면에서 보면, 생물학적

유기체와도 매우 흡사한 셈이다.

233..현실 세계가 아닌 곳에서 학습한 AI에

대해서는 주의를 기울여야 한다.

**자율주행시스템의 경쟁이 떠올랐다. 

웨이모 VS 테슬라,,현실세계에서 부딪히며

머신러닝을 하고 있는 테슬라가 앞서나가는 것

같다. 

 

 

7장 당혹스러운 편법

239..과적합 사례라고 볼 수 있는 것은 구글의 

독감 알고리즘이다.

240..시뮬레이션에서만 학습하거나 사뮬레이션을

거친 데이터만을 학습한 알고리즘은 과적합에

특히 취약하다.

244..데이터의 출처가 인간일 경우 그 속에 편견이

들어 있을 가능성이 높은 것으로 보인다.

249..AI에게는 편견을 찾아내 모방하는 편이

훨씬 쉬운 과제다.

253..AI가 내리는 의사결정이 공정할 거라고

생각해서는 안 된다.

수학 세탁이나 편견 세탁의 문제

 

 

8장 AI의 뇌는 인간의 뇌와 같을까?

259..인간의 뇌나 살아 있는 유기체에서 일어나는

여러 현상들이 그것들을 모방한 AI에서도 

똑같이 나타난다.

266..심지어 디지털적으로 진화한 AI가 만들어낸

아주 이상한 전략이 역으로 실제 현실에도 있다는

것이 발견되기도 했다.

271..망각 문제를 해결하려고 노력중이다.

인간의 뇌가 장기 기억을 수십 년간 안전하게

저장하는 것과 비슷하게, 보호 뉴런으로 구성된

일종의 장기 기억력을 만들려는 시도도 있었다.

280..같은 부류에 속하는 알고리즘들이 이상하리

만큼 서로를 잘 이해한다는 뜻도 된다.

**사람이 보기에는 이상한 이미지를 비슷한

알고리즘끼리는 매우 유사하게 판단한다는

것에 놀랐다. 얼마전에 기사에서 알고리즘끼리

자기들만의 언어를 사용해서 무언가 대화를

했다는 내용이 생각났다.

 

 

9장 인간 봇(AI를 기대할 수 ‘없는’ 곳은 어디일까?)

289..정교한 것들은 모두 실제 AI가 아니라 

저임금 인간 노동자일 가능성이 크다.

 

 

10장 인간의 새로운 파트너, AI

306..어느 연구 팀이 인간이 더 많이 개입해서

이미지 인식 알고리즘을 개선하려고 한 적이 

있었다. 그러나 AI가 내놓은 결과는 훨씬

나빠졌다. 그 이유를 정확히 알 수 없었다.

312..두 알고리즘의 공모 사례

321..자신의 AI가 예술가라고 주장하는 사람들은

AI의 능력을 과장하고 있고, 자신의 예술적인

재능과 알고리즘을 만든 이들의 기여를

과소평가하고 있다.

 

 

에필로그 _AI 친구들과 함께하는 삶

323..AI는 그저 패턴을 따르고 있을 뿐이다. AI는

오직 자신이 본 것, 이해할 수 있을 만큼 충분히

많이 본 것만을 안다.