투자

"일상이 된 AI에 따라 붙는 윤리 문제…글로벌 규제 인지해야"

  • 2024 한국창업학회 춘계학술대회
  • 윤리와 규제는 불가피한 진입장벽
  • 미국, EU 등서도 윤리 측면 규제 도입
  • 규제 대응 위한 정부 지원도 필요
  • 등록 2024-05-10 오후 3:02:12
  • 수정 2024-05-10 오후 4:07:26
[이데일리 마켓in 권소현 기자] “AI가 없었던 시대로 돌아갈 수는 없다. AI 활용에 있어서 윤리와 규제도 불가피한 진입장벽이다. 기업이 글로벌 규제를 준수할 수 있도록 정부가 지원해야 한다”

인공지능(AI) 기술이 우리 생활 깊숙이 자리를 잡으면서 이와 관련한 윤리와 규제 문제도 부상하고 있다. 기업활동을 하는 데 있어서 윤리와 규제 이슈는 걸림돌로 인식될 수 있지만 전세계적으로 AI 윤리에 대한 규제가 도입되는 추세인 만큼 윤리적 활용과 이에 대한 정부 지원이 필요하다는 조언이 나왔다.

10일 서울 마포구 서울창업허브 공덕에서 열린 2024 한국창업학회 춘계학술대회 주제강연에 나선 김명주 서울여대 정보보호학부 학부장은 “기업활동을 하면서 규제 여건을 다 볼 여력이 없다”며 “해외에서 AI 관련 규제 법안이 통과되는 순간 스타트업이나 작은 기업이 규제를 지킬 수 있도록 정부가 도와야 한다”고 말했다. 이같은 규제를 지키지 않으면 글로벌 서비스가 불가능하기 때문이다.

AI 기술이 빠르게 발전하면서 각종 윤리 문제가 발생하고 있다. 국내에서도 대화형 인공지능인 이루다가 탄생한 이후 성희롱, 성차별 논쟁에 시달리다 개인정보보호법 위반 논쟁까지 불거지면서 결국 서비스를 중단한 사례가 있다.

사진에 넣은 워터마크를 지우는 AI 기술이 개발되면서 저작권을 보호하기 위한 장치를 무력화하는 역설적인 상황이 벌어지기도 했다.

AI로 사자(死子)를 되살리는 시대다. 2008년 심장마비로 세상을 뜬 그룹 거북이의 메인 보컬 터틀맨을 2020년 M넷에서 AI로 부활시켜 그해 히트였던 드라마 주제곡을 부르는 무대를 재현하기도 했다.

김 학부장은 “이제 AI로 인해 살아 있는 사람이 죽은 자와 경쟁하는 시대가 됐다”며 “기업하는 이들에게는 기회가 되겠지만 윤리적으로 문제가 없는지도 고민해야 한다”고 말했다.

실제 전세계적으로 AI로 인한 윤리적인 문제가 발생하면서 각종 논란도 일고 있다. 유명인 중에서는 본인과 관련한 디지털 유산을 금지해달라는 유언을 남기는 경우도 있고 사망한 배우를 AI로 살려 영화에 출연시키려는 시도에 대해 수익배분, 책임 소재, 사자 명예훼손, 사후 퍼블리시티권 등에 대한 문제제기가 이뤄지기도 한다.

이에 따라 유럽연합(EU)에서는 디지털서비스법, 인공지능법이 의회에서 통과됐고 미국에서는 조 바이든 대통령이 AI 행정명령을 공개하기도 하는 등 각종 규제를 도입하는 추세다.

김 학부장은 “AI의 윤리적 활용이 더 경제적이기에 기업에서 시급한 것은 신기술에 대한 윤리적 상상력”이라며 AI 기술을 윤리적으로 활용하는 것의 중요성을 강조했다.

김명주 서울여대 정보보호학부 학부장이 10일 서울 마포구 서울창업허브 공덕에서 열린 2024 한국창업학회 춘계학술대회 주제발표에 나서 ‘AI의 윤리적 활용’을 주제로 강연하고 있다. [사진=한국창업학회]


SRE 랭킹
※ 제34회 SRE 설문조사 결과입니다.
※ 제34회 SRE 설문조사 결과입니다.
투자

"일상이 된 AI에 따라 붙는 윤리 문제…글로벌 규제 인지해야"

  • 2024 한국창업학회 춘계학술대회
  • 윤리와 규제는 불가피한 진입장벽
  • 미국, EU 등서도 윤리 측면 규제 도입
  • 규제 대응 위한 정부 지원도 필요
  • 등록 2024-05-10 오후 3:02:12
  • 수정 2024-05-10 오후 4:07:26
[이데일리 마켓in 권소현 기자] “AI가 없었던 시대로 돌아갈 수는 없다. AI 활용에 있어서 윤리와 규제도 불가피한 진입장벽이다. 기업이 글로벌 규제를 준수할 수 있도록 정부가 지원해야 한다”

인공지능(AI) 기술이 우리 생활 깊숙이 자리를 잡으면서 이와 관련한 윤리와 규제 문제도 부상하고 있다. 기업활동을 하는 데 있어서 윤리와 규제 이슈는 걸림돌로 인식될 수 있지만 전세계적으로 AI 윤리에 대한 규제가 도입되는 추세인 만큼 윤리적 활용과 이에 대한 정부 지원이 필요하다는 조언이 나왔다.

10일 서울 마포구 서울창업허브 공덕에서 열린 2024 한국창업학회 춘계학술대회 주제강연에 나선 김명주 서울여대 정보보호학부 학부장은 “기업활동을 하면서 규제 여건을 다 볼 여력이 없다”며 “해외에서 AI 관련 규제 법안이 통과되는 순간 스타트업이나 작은 기업이 규제를 지킬 수 있도록 정부가 도와야 한다”고 말했다. 이같은 규제를 지키지 않으면 글로벌 서비스가 불가능하기 때문이다.

AI 기술이 빠르게 발전하면서 각종 윤리 문제가 발생하고 있다. 국내에서도 대화형 인공지능인 이루다가 탄생한 이후 성희롱, 성차별 논쟁에 시달리다 개인정보보호법 위반 논쟁까지 불거지면서 결국 서비스를 중단한 사례가 있다.

사진에 넣은 워터마크를 지우는 AI 기술이 개발되면서 저작권을 보호하기 위한 장치를 무력화하는 역설적인 상황이 벌어지기도 했다.

AI로 사자(死子)를 되살리는 시대다. 2008년 심장마비로 세상을 뜬 그룹 거북이의 메인 보컬 터틀맨을 2020년 M넷에서 AI로 부활시켜 그해 히트였던 드라마 주제곡을 부르는 무대를 재현하기도 했다.

김 학부장은 “이제 AI로 인해 살아 있는 사람이 죽은 자와 경쟁하는 시대가 됐다”며 “기업하는 이들에게는 기회가 되겠지만 윤리적으로 문제가 없는지도 고민해야 한다”고 말했다.

실제 전세계적으로 AI로 인한 윤리적인 문제가 발생하면서 각종 논란도 일고 있다. 유명인 중에서는 본인과 관련한 디지털 유산을 금지해달라는 유언을 남기는 경우도 있고 사망한 배우를 AI로 살려 영화에 출연시키려는 시도에 대해 수익배분, 책임 소재, 사자 명예훼손, 사후 퍼블리시티권 등에 대한 문제제기가 이뤄지기도 한다.

이에 따라 유럽연합(EU)에서는 디지털서비스법, 인공지능법이 의회에서 통과됐고 미국에서는 조 바이든 대통령이 AI 행정명령을 공개하기도 하는 등 각종 규제를 도입하는 추세다.

김 학부장은 “AI의 윤리적 활용이 더 경제적이기에 기업에서 시급한 것은 신기술에 대한 윤리적 상상력”이라며 AI 기술을 윤리적으로 활용하는 것의 중요성을 강조했다.

김명주 서울여대 정보보호학부 학부장이 10일 서울 마포구 서울창업허브 공덕에서 열린 2024 한국창업학회 춘계학술대회 주제발표에 나서 ‘AI의 윤리적 활용’을 주제로 강연하고 있다. [사진=한국창업학회]