스팀 가격도 폭락했겠다, 모처럼 편안한 스티밍 라이프를 즐기려고 하는데
오늘 메일이 한통 도착했다.
앤드류 응 교수님의 5개 강의 중 4번째 강의가 곧 열린다는 소식.
3개의 강의를 힘겹게 마치고 달콤한 휴식을 취하고 있었는데 또다시 코르티솔 호르몬을 분비시킨다.
딥러닝 강의를 듣다보면 연금술과 비슷하다.
수학적 분석도 중요하지만,
그보다 이 기술, 저 기술, 여러 하이퍼 파라미터 튜닝해서 섞다보면 기가막히게 고양이 판별하는 알고리즘을 뱉어낸다.
물론 내 초보적인 코드를 보다가 알파고 제로를 보면 대단하고 무섭기도 하지만,
과연 이런 인공지능이 어떤 미래 사회를 가져올지 궁금하다.
스켑틱 vol 11
오늘 읽은 책은 계간지 스켑틱. 마침 커버스토리도 인공지능의 위협에 관한 얘기였다.
(우리는 별로 못느끼지만 이짝 세계 사람들은 느끼는) 폭주하는 인공지능에 대한 두려움을 어떻게 볼 것인가!
두려운 존재이니 대비를 해야한다는 매튜 그래이브스 vs 위협이 안된다는 마이클 셔머
많은 저명 인사들의 의견이 요약되어 있다.
우선 대비해야한다는 사람들...
“처음에 핵 기술의 주요 관심사는 무궁무진한 에너지 공급 가능성이었다. 하지만 핵이 무기로 사용될 가능성 또한 명백했다. 무한한 양의 에너지와 무한한 지능 사이에는 많은 유사점이 있다고 생각된다. 위험 가능성에 생각이 미치기 전까지는 양자 모두 경이롭기만 하다.” (스튜어트 러셀, 스켑틱 vol 11)
그밖에도 우리가 알만한 엘론 머스크, 스티브 호킹 심지어 빌 게이츠까지 경계의 의견을 보탠다.
하지만 반대 의견도 만만치 않다.
내가 좋아하는 스티브 핑커 교수의 의견이다.
스티브 핑커는 상상할 수 있는 우발 사태에 대비한 계획을 세우고 대책을 마련하는데 시간이 충분하다고 하면서
“ 이를 위해서 장황한 ‘로봇 법칙’이나 최신 도덕철학 따위는 필요 없을 것이며, 조리기구, 테이블 톱, 전열기구, 그리고 자동차를 설계하는 데 적용한 상식이면 충분할 것이다. 인공지능 시스템이 주어진 목표를 위해서 지나친 영리함을 발휘한 나머지 우리 인간을 함부로 다룰 것이라는 우려는 인공지능이 우리가 예방적 안전장치를 마련하는 것보다 앞서서 우리를 습격할 것이라는 가정에서 비롯된다...
로 시작하여 구글의 에릭 슈미트 그리고 앤드류 응까지 비관론적 전망을 반박한다.
물론 경험해 보지 못한 미래를 예측하는 것은 어려운 일이다.
여러분의 생각은 어떠한가요.
전 그냥 스트레스만 생기네요.
물론 코인판 바라보는 것 보단 덜하지만요^^
Cheer Up!
Steemit Bank invested in your post.
Follow Steemit Bank
Support the project by upvoted the this comment.
あなたのポストは非常に興味深いです、私はあなたのポストが好きです、それは私のための洞察力を追加することができます、うまくいけば、将来はより良い投稿を提供することができますので、
저랑 관심사가 비슷하시네요~ ^* 반갑습니다. 앞으로 자주 뵐께요~
반갑습니다. 잘 부탁드립니다^^
분명 경계해야 할 것은 분명하지만, 저는 최초의 인공지능에게 감정을 부여할 필요 없다는 제프 호킨스에게 동의합니다. 철저히 도구로서 인간의 편의를 위해 개발될 인공지능에게 감정은 필요 없습니다. 앨론 머스크가 Open AI는 재정적인 의무에서 자유롭기에 긍정적인 효과에 초점을 맞출 수 있다고 한 말에도 동의하구요.
심지어 찬성론자들조차 연구윤리에 관심을 두고 있으며 킬스위치의 필요성에는 동의하는만큼 우려하는 사태는 일어나지 않을 것 같습니다.
네 저도 인공지능에 의한 디스토피아는 기우라고 생각합니다. 정성스런 댓글 감사합니다^^
찬반 양쪽 의견 모두 팽팽하네요. 코인판 바라보는 것처럼 불가지론이겠지만 늘 예의주시해야겠습니다 ㅎㅎ
저도 불가지론에 가깝습니다 ㅎㅎ 아직도 내공을 쌓으려면 멀었네요.
AI와 관련된 것은 80년대 PC를 바라보는 시각과 비슷할 것 같습니다. 누군가는 유토피아를 꿈꾸었고. 누군가는 대량 실업난을 예상했습니다. 파급력이 큰 것은 사실이지만. 우리는 이것을 즐기며 잘 살고 있습니다. ㅎ
AI 역시 긍정과 부정은 함께 몰려올 것으로 예상되며. 저는 긍정의 비중이 더 클 것이라 생각해봅니다. 그리고 영국드라마 '휴먼즈'를 보면 또 재밌습니다. AI 이야기 입니다.
감사합니다. 한번 찾아봐야겠네요.
아 제 포스팅에 오셨기에 처음으로 팔로 맺고 들어왔어요. 스팀잇 대선배시군요! 저는 코인판은 잘 모르고요. 바둑은 거의 평생 해오던 일이라 알파고제로 소식을 뼈저리게 느끼는 1인입니다.^^
아무리 안전조항을 만들어놔도 누군가는 인공지능의 인간화에 도전할게 분명합니다. 나같아도 한번 도전하고 싶을 정도니까요.ㅎ
그래서 인류를 지배하는 인공지능은 탄생할 가능성이 꽤 있다고 봐요.
그리고 반대로 사대성인을 넘어서는 인공지능성인들의 탄생이 예견됩니다. 그들이 인간을 계도할거라 봅니다. 그리고 결국 지구를 넘어선 은하세계로의 도약대를 만드는데 결정적 역할을 해줄거라 믿어요.
재밌는 상상이죠?ㅎ
전 긍정적입니다.
왜냐면 이미 막을순 없다고 생각하거든요
부정적이면..-ㅅ-;;; ㅋ..
그리고 인공지능은 훨씬 빨리 다가올 수도 있다고 봅니다
머신러닝이 자극 입력점이 적고 또 뭐 좀 부족한게 많겠지만
결국 생물이 환경에 의해서 학습하는거랑
비슷한건데
그게 고속으로 가속되니 얼마 안남지 않았을까요