[Module1] AI 윤리 PART2 인공지능 알고리즘과 윤리 이슈

Part2. 인공지능 알고리즘과 윤리 이슈 

 

AI가 인간의 고유 영역인 창작을 할 수 있는가? 

• 질의 응답 시스템에서 AI가 인간의 성능을 추월
• 일본 AI 프로그램이 '호시 신이치' 문학상 SF부문에 1차 예선 통과
• IBM의 토론자 2019년 대학생 수준에 왔지만 여저히 인간에게 패배

 

AI Art in Action

• AI 예술 작품은 학습 데이터 기반인데 창작성이 있는가? 
  • 학습 데이터, 프로그래머, 기획자 사이의 저작권 이슈 존재 
  • AI가 만드는 작품들은 NFT와 관련되어 비싸게 거래 

 

AI 저작권 이슈

• 학습에 사용된 데이터를 제공한 사람에게도 혜택이 돌아가기 어려움
• 창작자인 AI는 법적 권리를 제공할 수 있는 법적 제도가 없음
• 현존하는 예술가의 스타일을 따라 예술 작품을 만들 경우 상업적 피해를 준다
• 창작된 작품이 인간의 윤리적 규범을 따르지 않을 수 있다

 

법인의 범위

• 법인은 법적 권리와 의무에 대한 책임을 소지
• 정부,  NGO, 자연, 회사 등 자연인이 아닌 법인도 존재
• 법인의 권리와 의무가 일부만 부여될 수 있음
• AI는 현재 법인에 속하지 않고 있음
  • 인공지능을 법인으로 인정 해보면 어떨까하는 제안이 유럽연합 내에 있었음
    
    • 찬성
      • 간단한 책임의 문제가 손쉽게 해결
      • 혁신과 사회발전의 방향
      • 법제도가 일관성 있게 유지
      • 자연인이 아닌 법인은 이미 존재
    • 반대
      • 법적 처벌의 도피로 악용
      • 도구주의 반함
      • 인류에 대한 수치
      • 처벌의 어려움

 

AI contributed harm

• 아시모프의 로봇 3원칙
  • 로봇은 인간을 다치게 해서는 안되며, 인간이 해를 입는 걸 방관해서도 안됨
  • 법칙 1에 위배되지 않는 한 로봇은 인간의 명령에 복종해야한다
  • 법칙 1과 2에 위배되지 않는 한 로봇은 스스로를 보호해야 한다. 

 

정리

• 인간의 창조적 활동 영역으로 들어온 인공지능 
  
  • AI가 기술혁신과 창작 도구로 활용지 점차 확대됨에 따라 인간의 개입 없이 독자적 창작과 혁신활동이 가능한 수준으로 발전하리라는 전망
• AI 시대 지식재산, 법인경, 처벌, 그리고 윤리의 문제 부각
  • 세계적으로 AI에 의한 발명과 저작 등에 대한 법제 정비, 미래 강한 AI가 등장했을 시 법인격을 부여할지 논의, 오동작시 처벌과 윤리 규정을 마련 등이 필요하며, 이러한 논의가 다양한 계층 시민의 수요와 요구를 반영하도록 유의
• AI에 대한 경계와 규제의 선택은 인류에 대한 재정의