logo
   
[유머] 딥러닝이 보여주는 AI의 무서움.jpg [댓글수 (104)]
rank새콤달콤    2022-05-03 (화) 18:12   조회 : 42042   공감수 : 68
http://www.etoland.co.kr/bbs/board.php?bo_table=etohumor05&wr_id=1574442 (8)






발전하는 속도가 무서운 수준이네요…


출처: https://youtu.be/lVQ08LIcsXg



[원문보기 - 유머]
전체공감수68
새콤달콤 게시물보기
자기소개가 없습니다
image
자기소개 더보기
댓글 104개
댓글쓰기
rank어쩔까 2022-05-03 (화) 18:12
/^^ 충성충성 알파고
추천 1
rank퇘깽이 2022-05-03 (화) 18:12
저게 무서운 건 왜는 없고 결과는 나온데요
AI사 스스로 학습해서 나온 결과 물만 있고 왜 그런 학습을 했는지 어떤 학습 과정을 거치는지 모른데요
결과는 받을 수 있지만 오류가 나거나 미쳐버리면 돌려 놓을 수 없다는 것이겠죠
추천 0
     
       
rank빠꾸끼 2022-05-03 (화) 18:12
@퇘깽이

이건 10년 전 얘기입니다.
요즘은 아님
추천 2
          
            
rank상하이로가자아 2022-05-03 (화) 18:12
@빠꾸끼

뭘 요즘은 아니래 ㅋㅋㅋ 딥러닝 신경망 평가를 뭘로 하는지 알아요? 알고리즘이 아니라 트레이닝 샙플로 확률평가를 합니다. 알고리즘을 사람이 알 수 있으면 신경망이 아니에요…… 뭔 개뿔도 모르면서; R 쓰면 기초 겉핥기를 금방 합니다……
추천 0
               
                 
rank빠꾸끼 2022-05-03 (화) 18:12
@상하이로가자아

R쓰는거 보니 통계확과신거 같네요                   
그리고 한가지만 더 말씀드리자면, 정말로 수많은 과학자랑 IT에 종사하시는 분들이, 자기가 만드는 모델의 결과값이나 출력값에 대해서 아무런 예상도 못하고 단순히 모델을 만들어서, XAI에 기대는걸까요??
정말로 그렇게 생각하신다면 공부 열심히 하셔야겠습니다.                 
어지간해서는 선배님인지 후배님인지 모르니 말을 정중하게 하려고 했는데, 아무리 봐도 말씀하시는데 한 마디 한 마디에서 이론이나, 지적 정보가 느껴지지 않네요.
후배님한테 어줍잖은 지식으로 비난당한다고 생각하니 기분이 좀 나빠서 글을 적습니다만
제발 같은 업계에서는 보지 않길 바랍니다.
그런 마인드로는 절대 못 살아남아요
goodgood 추천 10
                    
                      
rankdimn 2022-05-03 (화) 18:12
@빠꾸끼

참으세요 뭣도모르면서 아는척 하는걸 좋아하나 봅니다.
추천 4
               
                 
rankㅁㄴㄴㄷㅁ 2022-05-03 (화) 18:50
@상하이로가자아

XML은 들어는 봤을지... 우물 안에서 얻은 지식으로 남을 폄훼하는 게 안타깝네요.
추천 0
     
       
rank루시아79 2022-05-03 (화) 18:12
@퇘깽이

딥 러닝을 너무 크게 보시는거 같군요.
현재 기술로는 그런 의심되는 부분은 전혀 문제 없습니다.

왜 그런 학습을 했는지 => 개발자가 시켜서입니다.
딥 러닝이 의외로 단순하더군요.
안될과학에서 딥 러닝 전문가가 나와서 딥 러닝 구조에 대해서 말하는데 그부분 보시면 아실듯합니다.

위 짤은 기존 학습 방식과 지금의 학습 방식이 다르다는거지
AI가 스스로 학습하는데 지금 수준은 딱히 무서울거 하나도 없습니다.
추천 0
     
       
rankㅎㅡㅡㅎ 2022-05-03 (화) 18:12
@퇘깽이

너무 가셧는데요 ㅎㅎㅎ 어떠한 딥러닝이던 ai프로토콜이던간에  결국은 프로그래밍시퀀스에 맞춰서 움직일수밖에 없는구조입니다.  결론은 개발자가 프로그래밍한 영역에서만 도출할수있는 결과물인거에요.  스스로 학습하는 프로토콜에서 학습자료를 제공하는건 프로그래머입니다.  모른다는건 말이안되죠.  상상의 영역을 아직까지는 집입하지못햇습니다.
추천 0
          
            
rank예술적무전병 2022-05-03 (화) 18:12
@ㅎㅡㅡㅎ

ai를 잘못 알고 계신데요. ai의 결과물은 왜 그렇게 나오는지 아무도 모릅니다. ai가 설명하는 능력이 없으니 알 방법이 없죠. 프로그래밍한 영역에서만 도출하는건 알고리즘이지 ai가 아닙니다. 대표적인 예가 알파고 시리즈. 바둑 돌을 어디에 두는게 승률이 높은지 보여주지만 왜 그쪽에 돌을 놓는게 이길 확률이 높은지 아무도 모릅니다. 이러이러해서 여기에 놓는게 아닐까하는 인간 나름의 해석 정도는 가능하지만요. 그리고 알파고에게 학습자료가 제공되었다면 알파고 제로는 학습자료도 전혀 안주고 제로베이스에서 바둑을 독학했습니다. 그 알파고 제로가 이세돌을 상대로 했던 돌파고를 상대로 전승했습니다. 그러다보니 요즘 바둑은 그냥 ai 켜놓고 ai가 어떻게 놓는지 보고 공부합니다. 왜 그렇게 놓는지는 몰라도 그렇게 놓으면 이기니까요.
추천 1
               
                 
rank하이후 2022-05-03 (화) 18:12
@예술적무전병

위분이 언급하신건 방향성의 이야기같습니다.
가령 예시로 언급하신 자둑같은경우 규칙을 주고 이겨야 한다는 걸 목표로 대명제로ㅠ재시해둔거죠.
그게 없다면 그냥 막둡니다. 저혼자 그림그리고 규칙 내애서 마구잡이로 둘뿐이죠ㅡ 어쩌다 이긴것도 그저 무한원숭이이론같이 운좋개 맞아떨어진거구요.

현 ai 알고리즘의 어떤것도 자율적으로 주제를 정해 움직이지 않습니다.

그게 가능하다며뉴그때는 진짜 두려워해야죠. 연산속도가 다르니 저가알아서 뭔가를 개발하고 창조하고 끈임없이 반복 수행하여 자신이 설정한 주제에 답알 도출하는거니까요.
추천 0
                    
                      
rank예술적무전병 2022-05-03 (화) 18:12
@하이후

딥마인드의 뮤제로가 사전에 게임 규칙을 입력해주지 않았는데 알파제로가 했던 바둑, 체스, 쇼기에서 알파제로의 능력을 보여줬고 알파제로의 영역이 아니었던 아타리 게임까지 했습니다.
추천 0
                         
                           
rank하이후 2022-05-03 (화) 18:12
@예술적무전병

딥마인드는 보도자료에서 "우산이 당신을 젖지 않게 해줄 거라는 걸 아는 것이 비가 내리는 패턴을 파악하는 것보다 더 유용하다"는 말로 뮤제로 학습 방식의 효용성을 빗대 표현했다. 중요한 게 뭔지를 아는 게 중요하다는 것이다

뮤제로 알고리즘의 개요를 한마디로한것이 위내용입니다.

오래살아 높은점수라는 대명제(방향성)에 가중치를 둔거죠.

다시말씀드리지만 동일 알고리즘에서 방향성없이 돌릴경우 ai가 스스로 방향성을 잡는데. 그 방향이 "빨리죽기"라면 빨리죽는 쪽으로 가버립니다. 그런걸 배제하고 이기는데 방향잡힌걸 쓴거죠.
추천 0
               
                 
rank빠꾸끼 2022-05-03 (화) 18:12
@예술적무전병

ai의 결과물을 왜 예측을 못합니까;;
노드별 가중치 역으로 tracking하면 어느 부분에서 판단이 그렇게 된건지 다 나옵니다.
ai의 결과물이 왜 그렇게 나오지 않는지 아무도 모른다는 건, 개발자가 시간에 쫓겨서 분석을 못했다는 말로밖에 안 들리네요
그리고 최근 트렌드 또한, inductive bias(사람의 관점)이 들어가지 않은 모델은 상용화 하면 안된다는 것인데요.
추천 0
                    
                      
rank예술적무전병 2022-05-03 (화) 18:12
@빠꾸끼

https://www.ibm.com/kr-ko/watson/explainable-ai
단순할땐 그말이 맞지요. 근데 바둑만 되도 넘 복잡해서 그게 안되요. ibm이 병신이라 그 단순한걸 못한다고 말하고 싶은건 아니겠지요?
https://en.wikipedia.org/wiki/Explainable_artificial_intelligence
위키도 있을 정도로 널리 알려진 내용이니 봐두세요.
추천 0
                         
                           
rank빠꾸끼 2022-05-03 (화) 18:12
@예술적무전병

바둑만 되도 넘 복잡해서가 아니고, 바둑이 매우 복잡한겁니다.
괜히 알파고가 유명해진게 아니죠. 쉬운게 아니라, 어려운걸 해내서 유명해진겁니다.
대체 바둑보다 어려운 테스크가 얼마나 된다는 겁니까,
학부나 대학원 수업에서 오토마타 수업 들으셨으면 아마 아실텐데요

그리고 AI를 강화학습으로 한정해서 얘기를 자꼬 하시는데, AI = 바둑 잘두는 녀석이 아니잖아
요? XAI도 분야에 따라서 정복된 정도가 다릅니다             

ai마다 적용된 기술이나 개념이 다르다 보니 XAI를 하는 방법론도 달라지고, 그에 따라서 정복된 수준이 다른건데 IBM도 못하니 뭐니 하는건 문맥을 잘못잡으신거같은데요?                   
 
그리고 뭔가 IBM 신격화 하시는거 같은데, IBM 실패해서 말아먹은 AI 프로젝트들 여러개 있습니다. 규모가 소규모라서 그렇지 국내에서도 음성관련해서 자문하다 실패해서 신문에 실렸었는데, 대기업이라고 다 성공하는건 아닙니다.       

그리고 xai 위키 걸어두셨는데,  이미 저런거 논문으로 보고 인용 다 하고, 유명한 대학교 XAI 강연도 가끔 들으니 걱정 안하셔도 됩니다ㅣ.

그리고 문장 문장 중간에 욕설이 섞여 있는데, 반박하실 게 있으시면, 논문 링크와 인용 구절을 들고 와서 조언을 해 주시지요.
추천 0
                    
                      
rank풍뢰경혼 2022-05-03 (화) 18:12
추천 0
                         
                           
rank빠꾸끼 2022-05-03 (화) 18:12
@풍뢰경혼

일론머스크가 저런 내용들로 영상 찍고 있는건 알고 있습니다.
제 생각에는 홍보하는 걸로 보이네요.
AI가 강력한건 맞지만, 저 정도로 우려하거나 걱정할 만한 정도는 아닙니다.
추천 0
                    
                      
rank상하이로가자아 2022-05-03 (화) 18:12
@빠꾸끼

써본거 맞아요? 신경망 노드를 몇개 쓰길래 이런 소릴 당당하게 하지… 그리고 노드 별 인풋 이웃풋을 개발자가 어떤 원리인 지 알수있다고요?;;;;;;;; 결과물 보고서 이런거구나 추정하는 걸 예측이라 합니까…… 신경망 모델 만들때 왜 테스트를 그리 돌리고 돌려도 에러가 나오는데요….
추천 0
                         
                           
rank빠꾸끼 2022-05-03 (화) 18:12
@상하이로가자아

노드를 몇개 쓰냐는 말씀이 나와서 말씀드리지만, 제가 지금 건드리고 있는 모델은 파라미터가 약 2억개 정도 됩니다. 사람에 따라서 겨우라고 할 수도 있고, 사람에 따라서 많다고 할 수도 있지만, 써봤다곤 할 수 있지 않을까요?

각 사람마다 서로 의견이 다른건 이해하지만, 저로서는 글쓴 분 의견이 납득이 상당히 안되네요;

자기가 만든 모델이 무슨 원리로 특징정보를 추출하는지를 모르는 개발자가 있다니;;
연구실마다 가르치는게 다르고, 학교마다 배운게 다르겠지만, 저로서는 납득이 안가네요
테스트를 돌려서 에러가 나왔는데 왜 에러 분석을 못한다는것인지..                   
테스트를 돌려서 에러 분석이 안된다면, 그건 설계자가 무지성으로 갖다가 써서 그런거라고 저는 생각합니다.                   

전 딥러닝을 2016년도에 시작했습다. 저보다 일찍 배우고 일찍 시작해서 배운게 많으시다면 할말은 없지만, 적어도 저랑 딥러닝을 바라보는 시각은 전혀 다르신거같네요                   

모든 연구자와 개발자는, 연구 및 프로젝트 시작 전에 출력값이나 결과에 대해서 자신이 의도한대로 결과물을 뽑을 줄 아는 사람이어야 합니다.             

당연히, 중간에 발생하는 모든 에러나 원인에 대해서도 예측할 수 있어야 하구요.
그게 안된다면 그냥 3류인겁니다.                   
글쓰닝 분께서도 뭐... 오래 배우셨는데 모른다면.. 어쩔 수 없는거죠
추천 3
                         
                           
rank양제 2022-05-03 (화) 18:35
@상하이로가자아

아마도 수식적으로 결과값을 정확히 예측 가능한 범위인가
아니면 분류 결과값을 어느정도 예측가능한 범위 인가의
인식 차이로 논쟁이 있으신게 아닌가 합니다.

제가 알기론 아직 딥러닝을 수식적으로 표현하긴 힘들다로 알고 있는데
이게 해결 됬는지는 모르겠네요.
해결 됬다면 그 계산값을 드라마틱컬하게 줄일 수도 있겠죠 :)

오래되서 기억이 정확하진 않은데
단순한 펄셉트론과 슈도인버스 값이 동일 한 것을 생각해보면 될 것 같습니다.
슈도인버스가 결과값은 같은데 계산량은 어마어마하게 작잖아요.
추천 0
               
                 
rankHappySouL 2022-05-03 (화) 18:12
@예술적무전병

그래서 설명이 가능한 AI가 혁신 기술로 지속적으로 거론이 되는 거지요..
추천 0
                    
                      
rank예술적무전병 2022-05-03 (화) 18:12
@HappySouL

네. 그래서 xai로 가고 있죠.
추천 1
rankkiga 2022-05-03 (화) 18:12
딥 러닝 : 스카이넷의 서막
추천 0
rank이히헷 2022-05-03 (화) 18:12
실시간 자동번역 tts 잘되면 좋겠다
추천 0
rank광규321 2022-05-03 (화) 18:12
AI로봇 UFC 도 나오것네
추천 0
rank워드맵 2022-05-03 (화) 18:12
딴 거 다 필요없고 판검새나 A.I로 대체되었으면.
추천 1
     
       
rankrjrlsd 2022-05-03 (화) 18:12
@워드맵

주어지는 기본 자료들이 중요한데요 기존 판례주고 판결하라고 하면 지금이랑 별 다를바 없이 나옵니다
판검사를 조지는거에는 매우 동감하나 입법부놈들도 다 조져야합니다.
그새끼들이 일 안해서 이 꼬라지 나는거에요
그쪽이나 저쪽이나 이런거 일 안하는건 동일합니다
추천 0
          
            
rank워드맵 2022-05-03 (화) 18:12
@rjrlsd

판새 새끼들 대체로 보면 법전 달달 외워서 사법고시 통과한 놈들이라는 게 무색할 정도로 무식하기 그지 없습니다.
사건과 관련한 법령은 어차피 컴퓨터로 검색하면 다 나오고, 기존 판례들은 서기보한테 찾아오게 하면 됩니다.
어차피 법관들이 보는 건 객관적이고 논리적인 법리해석이 아니라 선배 판사들이 어떻게 판결했는가 하는 판례에요.
선배 판사들도 같은 사건에 대해 각자 다르게 판결한 것들에 대한 케이스 마다의 근거를 찾아보고
피고가 어떤 위치에 있는 사람인지, 이 판결이 판사 본인의 앞날에 어떤 영향을 미칠 것인지, 피고가 제대로 반성을
하는지는 중요하지 않고 판사에게 얼마나 굽신거리며 카타르시스를 느끼게 해 주는지를 '인간적으로' 살펴서
족보에 기인하여 주관적이고 감정적으로 법봉을 휘두르는 게 저들의 일이에요.
의료는 집도의의 손기술이라도 필요하지, 판새 새끼들은 지 꼴리는 대로 판결 하나 툭 던져놓고 거기에 대한 책임도
안 집니다. 차라리 기계 판사가 판결하는 게 더 공정할 겁니다.
추천 0
               
                 
rank두눈으로똑똑히 2022-05-03 (화) 18:12
@워드맵

이전 사례를 넣는거 자체가 오류 투성이이니 빼고 새로 시작하도록 법안만 넣는게 좋을듯 싶습니다
추천 0
          
            
rank샤르베스 2022-05-03 (화) 18:12
@rjrlsd

나도 이생각 했는데... 이미 판례가 거지같은데... 이걸 근거로 넣으면 결과가 그지같을수밖에...
추천 0
     
       
rank가죽시계 2022-05-03 (화) 18:12
@워드맵

그만좀 해라.. 정치충들아 진짜...
더럽다 증말
추천 0
          
            
rank아이언암 2022-05-03 (화) 18:12
@가죽시계

너 더러운거 보면 치울생각 안하고 눈돌리는 놈이지 집안 꼬라지 알만하다
추천 2
     
       
rank쌀집김씨 2022-05-03 (화) 18:12
@워드맵

집어넣는 데이터가 그딴놈들 위주면? ㅎㄷㄷ
추천 0
rankjhbvoduw 2022-05-03 (화) 18:12
인공지능 발전의 특이점은 반드시 옴. 어느 순간 인간의 창의성을 뛰어넘어 인공지능이 모든 걸 만들어내는 시대가 올거임.
추천 0
     
       
rankriversan 2022-05-03 (화) 18:12
@jhbvoduw

기계적 특성상 창작은 불가능합니다.
조합을 통해 창작에 가까울수는 있어도요.
추천 0
          
            
rankjhbvoduw 2022-05-03 (화) 18:12
@riversan

그건 창작의 개념을 어떻게 정의하냐에 따라 다른 것이죠. 예를 들어 암치료제 개발을 창작이라고 본다면 인공지능은 창작이 가능한거고, 아니라고 본다면 불가능한거겠죠.
 또 예술 영역에서의 창작이라 하더라도 본문에 나온 화풍을 베끼는 것부터, 인공지능 스스로 그림을 그리게 하는 것 역시 이미 존재하는 기술이고요. 그러나 그 과정에 인간적인 요소가 창작이라 생각하는 사람이라면 인공지능의 결과물은 무엇이 되었든 무의미한 붓터치라고 보겠지만요.
추천 0
               
                 
rankriversan 2022-05-03 (화) 18:12
@jhbvoduw

창작은 없는것을 만드는것을 창작이라고 합니다. 기존의 것을 조합하는것을 창작이라고 하지 않습니다.
이는 이미 정의된 개념입니다. 정의를 어떻게 하느냐에 따라 다르다 라는말 자체가 성립하지 않습니다.
추천 0
                    
                      
rankjhbvoduw 2022-05-03 (화) 18:12
@riversan

1. 그림 그리는 것은 창작입니까? 그럼 인공지능은 창작을 할 수 있습니다.
2. 음악 만드는 것은 창작입니까? 그럼 인공지능은 창작을 할 수 있습니다.

없는 것을 만드는 것은 인공지능도 할 수 있습니다. 기존의 것을 재조합하는 것을 넘어 이미 스스로 '창작(없는 것을 만드는 것)'을 하고 있어요. 기술의 발전에 공포를 느끼고 부정하려는 마음은 알겠으나 이미 인공지능은 일반인의 막연한 인지와는 다르게 꽤 많이 발전했습니다.
추천 0
                    
                      
rank뭐든 2022-05-03 (화) 18:12
@riversan

이미 창작에선 인간을 뛰어넘은 부분도 있음..
예를 들어 아보카도를 테마로 한 의자 디자인 해라고 하면
신기한게 줄줄 나옴 ㅋㅋㅋ
추천 0
                    
                      
rankㅎㅡㅡㅎ 2022-05-03 (화) 18:12
@riversan

예로 음악을 들면  아주 한참전에 모든 멜로디의 창작은 이미 끝난상태입니다.  더이상 새로운 멜로디는 없다는 소리긴한데  그렇다고해서 모든 작곡가들이 표절인가? 그건아니겟죠. 기존의 음표를 재해석하고 또다른 멜로디로 재창조하면 창작의 영역에 들어갑니다.  음악뿐이 아니고 다른분야도 비슷한 경우들이 이제 점점생겨나겟죠.  창작이라는 단어의 영역은 조금 넓게 가지셔도될듯합니다.
앤디워홀도 유명한 창작자 이지만 님의 말씀대로라면 기존의 예술품 혹은 심벌을 짜깁기 하는 예술가 정도로 밖에 표현이 안되기때문에..
추천 0
                    
                      
rank나나나난나나나 2022-05-03 (화) 18:12
@riversan

재미있는 논쟁이라 생각합니다ㅎ
그렇다면 기계학습이 모방하지 못할 사람이 '창작'한 예시는 어떤것이 있나요????
추천 0
                         
                           
rankriversan 2022-05-03 (화) 18:12
@나나나난나나나

단순한 것으로 님이 쓰는 모든것이 있죠 화학적 공식 부터 시작해서 새로운 수학공식을 만들어낸게 있는지요? 의학적으로는 어떨까요?
추천 0
                    
                      
rank수달킹 2022-05-03 (화) 18:12
@riversan

인간의 창작도 완전하게 없는 것을 만드는 경우는 없습니다.
굳이 따지면 어떤 감각적 신호도 전달되지 않은 신생아가 창조해내는 어떤 결과가 말씀하신 개념일텐데, 그러한 신생아의 창조 역시 유전에 의해 내재된 본능이라는 스키마가 있으므로
'없는 것'이라는 개념에 부합하지 않습니다.
'해 아래 새 것이 없나니'라는 옛 말이 허튼 말이 아닙니다.
추천 0
                         
                           
rankriversan 2022-05-03 (화) 18:12
@수달킹

네 맞습니다. 창작 과 창조는 같으면서도 다르죠 하지마 기존에 이미 완성된것들을 짜집기 하는것을 창작 또는 창조라고 하지는 않죠.

기존음악을 카피해서 만들어놓고 자기가 만들었다고 하지 않는것처럼요.
추천 0
                    
                      
rankmomora 2022-05-03 (화) 18:12
@riversan

없는것을 만드는건 창조이지 창작이 아닙니다. 이 세상의 모든 예술은 창작이지 창조 아닙니다. 모든 예술은 모방에서 출발합니다.
추천 0
                         
                           
rankriversan 2022-05-03 (화) 18:12
@momora

0에서 1을 만드는건 창조 입니다.
하지만 1+2+3을 합쳐서 6을 만들었다면 그것은 창작이죠.

하지만 3+2+1을 창작이라고 하지는 않죠.
추천 0
          
            
rank상하이로가자아 2022-05-03 (화) 18:12
@riversan

인간의 창작도 모방의 연장선인데 인공지능이 창작을 못한다는 건 본인만의 상상이란 생각은 안드시는지…
추천 0
          
            
rank미나어러러 2022-05-03 (화) 18:12
@riversan

님이 쓴 댓글은 창작입니까? 아니면 어디선가 본 글귀들의 조합입니까?
추천 0
     
       
rank후이야 2022-05-03 (화) 18:12
@jhbvoduw

그특이점을 넘는순간 지금과는 말도안되는 과학문명을 이룰거같음
추천 0
댓글 전체 보기
   


인기
  • 번호
    제목
    글쓴이
    날짜
    ↑조회
    공감
    • 검색된 게시물이 없습니다
    검색은 2천 건 단위로 끊어서 검색되오니
    계속해서 검색을 원하시면 아래 다음검색 버튼을 눌러주세요
맨 위로
맨 아래로

공유하기

이토랜드 로고

계정 찾기 회원가입
소셜로그인
카카오톡 계정으로 로그인 구글 계정으로 로그인