IAEC DOCUMENT

IAEC 시스템

서문: 문제의 인식

우리는 처음에 인공지능이 준비서면과 법률문서를 자동으로 작성하는 방식이 가져올 혁신적 가능성에 주목하여 AI 문서 작성 기술을 연구하였다.

그러나 연구 과정에서 인공지능은 자율성을 가진 기술이기 때문에 오류, 왜곡, 누락, 논리 비약이 발생할 수 있으며, 그 결과에 대하여 인공지능 자체는 어떠한 법적 책임도 부담하지 않는다는 점을확인하였다.

따라서 인공지능이 법률문서를 직접 작성하는 방식은 기술적 가능성과는 별개로 법적·제도적 위험을 내포하고 있으며, 이를 단순히 혁신으로 홍보하는 것은 인공지능 자율성에 대한 구조적 이해 부족에서 비롯된 것이다.

IAEC 시스템

이에 우리는 인공지능이 문서를 대신 작성하는 기술이 아니라, 이미 존재하는 문서와 판단자료 간의 구조를 검증하는 시스템으로 연구 방향을전환하였다.

그 결과 탄생한 것이 17개 언어로 설계되어 전 세계를 대상으로 작동하는 IAEC 시스템이다.

제1장: 인공지능의 근본적 한계

그러나 연구 과정에서 인공지능은 자율성을 가진 기술이기 때문에 오류, 왜곡, 누락, 논리 비약이 발생할 수 있으며, 그 결과에 대하여 인공지능 자체는 어떠한 법적 책임도 부담하지 않는다는 점을확인하였다.
따라서 인공지능이 법률문서를 직접 작성하는 방식은 기술적 가능성과는 별개로 법적·제도적 위험을 내포하고 있으며, 이를 단순히 혁신으로 홍보하는 것은 인공지능 자율성에 대한 구조적 이해 부족에서 비롯된 것이다.
이에 우리는 인공지능이 문서를 대신 작성하는 기술이 아니라, 이미 존재하는 문서와 판단자료 간의 구조를 검증하는 시스템으로 연구 방향을전환하였다.

1.1 자율성의 두 얼굴

인공지능의 가장 큰 특징은 자율성이다.

그러나 이 자율성은 동시에 다음과 같은 구조적 오류의 원인이된다.

오류(Error) : 사실 오인 및 부정확한 정보 생성 왜곡(Distortion) : 학습 데이터 편향의 증폭 누락(Omission) : 중요한 사실 또는 맥락의 결손 논리 비약(Logical Leap) : 논리적 타당성이 결여된 추론

1.2 책임의 공백

더 근본적인 문제는 책임의 귀속이다.

인공지능은 법적 책임의 주체가 될 수 없으므로, 어떠한 오류가 발생하더라도 책임을 부담하지 않는다.

이는 법률 영역에서 치명적인 문제를 야기한다.

1.1 자율성의 두 얼굴
인공지능의 가장 큰 특징은 자율성이다.
그러나 이 자율성은 동시에 다음과 같은 구조적 오류의 원인이된다.
오류(Error) : 사실 오인 및 부정확한 정보 생성 왜곡(Distortion) : 학습 데이터 편향의 증폭 누락(Omission) : 중요한 사실 또는 맥락의 결손 논리 비약(Logical Leap) : 논리적 타당성이 결여된 추론

판단의 효율성은 증가할 수 있으나, 오류 발생 시 책임이 공백 상태에 놓이게되며, 이러한 구조는 법치주의와 양립할 수없다.

제2장: 연구 방향의 전환