1.1 생성형 AI의 정의와 특징
- 생성형 AI란 인공신경망을 이용하여 새로운 데이터를 생성하는 기술로 명령어를 통해 사용자의 의도를 스스로 이해하고 주어진 데이터로 학습, 활용하여 텍스트, 이미지, 오디오, 비디오 등 새로운 콘텐츠를 생성하는 인공지능이다.
- 대표적인 생성형 AI로는 ChatGPT, Gemini(구 Bard), DALL-E, Stable Diffusion, Midjourney 등이 있다. ChatGPT는 OpenAI에서 개발하였으며 사용자와 대화를 이어가며 자연스러운 문장을 스스로 생성하여 답변한다. Gemini는 구글에서 개발한 대화형 인공지능 서비스로 ChatGPT와 유사하게 텍스트를 생성하는 AI이다. DALL-E, Midjourney 및 Stable Diffusion은 텍스트를 입력받아 이미지를 생성하는 AI이다. 이 외에도 음성합성을 위한 모델 등 다양한 분야의 생성형 AI가 있다.
- 2018년 GPT-1부터 시작하여 2020년에는 GPT-3가 출시되었다. GPT-3는 1750억 개의 매개변수(parameter)를 사용하여 성능이 좋았지만, 일반인들이 사용하기엔 한계가 있다. 2022년 11월에 GPT-3.5에 해당하는 ChatGPT가 출시되어 사람들이 쉽게 사용할 수 있게 되었고, 놀라운 성능을 보여줘 인기를 얻었다. 빠른 진화를 거쳐 2023년 3월 15일에는 GPT-4가 공개되어 더 높은 성능을 보여주기 시작했다. 그리고 2024년, 업데이트와 함께 GPT-4o가 공개되었다.
- 현재 ChatGPT는 방대한 자료를 형식에 맞춰 잘 정리하는데, 가장 우수하며 여러 분야에 적용될 수 있다. 이러한 ChatGPT가 출시되면서 사람들에게 큰 사랑을 받게 되자, 여러 회사들도 현재 AI 관련 서비스 출시 예정하고 있다(Microsoft의 Bing Chat 등 출시 완료).
- 문서, 이미지, 사운드, 영상 등 다양한 콘텐츠를 손쉽게 생성할 수 있다.
- 사람과 대화하듯이 질문하고 원하는 답변을 바로 얻을 수 있다는 점에서 검색 시간을 절약할 수 있다.
- 작곡이나 예술 창작 등에 활용하면서 인간과 생성형 AI가 협업하여 창조적인 일을 수행할 수도 있다.
- 단순한 채팅뿐 아니라 문서 번역, 문서 요약, 음성 합성 등 다양한 분야에서 활용이 가능하다.
- 맞춤형 및 상호작용 가능한 콘텐츠를 제공하여 학습 경험을 향상시킬 수 있다.
- 생성형 AI에 의존함으로써 비판적 사고 능력 저하, 창의력 저하, 문제해결능력 저하 등이 발생할 수 있다.
- 표절이나 부정행위와 같은 학문적 진실성(academic integrity) 위반 문제를 발생시킬 수 있다.
- 편향된 데이터로 학습된 생성형 AI를 활용할 경우, 편향된 정보를 습득할 수 있고 기존의 불평등을 강화할 수 있다.
- 허위 정보 혹은 딥페이크(Deepfake)를 생성하여 사회적 혼란을 유발할 수 있다.
- 학습 데이터에 내재된 편향을 그대로 반영할 수 있어, 편향성을 조장할 수 있다.
- 기존의 저작물을 기반으로 새로운 콘텐츠를 생성함으로써 저작권을 침해할 수 있다.
- 불법적인 개인정보 수집, 유출, 악용 등의 위험이 있다.
- 생성형 AI의 발전은 일자리 감소와 사회적 불평등을 증가시킬 수 있다.
- 무차별적 데이터 수집을 통한 학습으로 인하여 개인정보보호 관련 이슈가 발생할 수 있다.
- 학교 과제, 논문, 연설문, 보고서 등의 작성에 악용될 수 있으며, 이로 인해 대필 문제가 심화될 수 있다.
- 비공개 정보나 개인정보와 같은 민감한 정보를 입력하지 않도록 한다.
- 생성된 결과물에 대한 정확성, 윤리성, 적합성 등을 반드시 재검증해야 한다.
- 가짜 뉴스의 유포, 불법물의 제작, 해킹 등 범죄에 대한 악용은 절대 금지되어 있다.
- 생성된 결과물을 활용할 때는 지적 재산권과 저작권 등 법률을 침해하거나 위반하지 않도록 주의해야 한다.
- 악의적으로 거짓 정보를 입력하거나 학습을 유도하는 등의 비윤리적 활용은 금지되어 있다.
- 연계되는 프로그램이나 확장 프로그램을 사용할 때는 보안 취약점 등의 안전성을 반드시 확인해야 한다.
- 로그인 계정에 대한 보안 설정을 강화하고 보안 관리를 철저히 해야 한다.