검증이 필요해요 제목: 인공지능 발전에 대한 일시적 중단 요청
- 수백 명의 인공지능 전문가, 기술 기업가, 과학자들이 서명한 공개 서한에서 GPT-4보다 강력한 AI 기술의 개발과 테스트에 대한 일시적 중단 요청
- GPT-4와 같은 언어 모델은 인간과 경쟁할 수 있으며 일부 직업을 자동화하고 오도류를 퍼뜨릴 수 있다는 경고
- 중단 기간은 최소 6개월이며 모든 AI 연구소 및 GPT-4 등 고급 AI 모델을 개발하는 모든 사람들이 참여해야 하며, 이에 대한 검증이 필요하다
- Microsoft과 Google은 이 서한에 대한 응답을 하지 않았다
- GPT-4의 능력이 큰 관심을 불러일으켰고, 새로운 AI 모델의 출시가 사회 및 규제 기관이 수용할 수 있는 속도보다 빠르게 일어난다는 우려가 표명되었다
- AI의 발전 속도와 규모가 매우 빠르기 때문에 제대로 이해되지 못한 채 다음 모델을 만들고 출시하려는 경쟁이 발생하고 있다는 것이 이 서한에서 주요 우려 사항 중 하나이다
- EU와 미국 정부는 각각 AI 기술의 사용에 대한 규제를 고려하고 있으며, 이를 위해 AI의 사용에 대한 제한 및 보호 등을 다룬 법안이 제안되고 있다
- 많은 사람들이 AI의 최근 발전 속도에 대해 놀라움과 불안을 느끼고 있다. |
|
|
Title: 영국 정부, 인공지능 산업 규제에 대한 권고안 발표
- 영국 정부는 인공지능 기술의 과도한 열기에 도달한 시점에서 이 기술을 규제하기 위한 종합적인 접근 방식을 제시하기 위해 권고안을 발표했다.
- 권고안은 안전, 보안 및 견고성; 투명성 및 설명 가능성; 공정성; 책임과 지배; 경쟁력과 구제라는 5가지 원칙을 제시하며, 기업들이 이를 준수하도록 요청한다.
- 정부는 기존 규제를 적용하고 기업들에게 권고안에서의 의무를 알리는 것을 목표로 하며, 건강 안전처, 평등 인권위원회 및 경쟁 시장청을 업무에 투입해 기업들에게 맞춤형 접근 방식을 개발하도록 한다.
- AI 시작업인 Humanising Autonomy의 CEO 인 Maya Pindeus는 정부의 이러한 움직임은 AI 규제로 가는 첫 걸음이라며, AI 기술이 기대에 미치는 영향을 고려하여 보다 강력한 내러티브가 필요하다고 밝혔다.
- 영국 경제에 37억 파운드의 기여를 한다고 여겨지는 AI 기술은 기업이 알고리즘 개발 및 사용 방법에 대한 충분한 투명성을 제공하도록 하고, AI 기반 도구가 내린 결정에 이의를 제기할 수 있는 방법을 제공하도록 요구한다.
- 미국의 마이크로소프트가 후원하는 AI 챗봇 ChatGPT를 포함한 AI 기술의 부정적인 영향에 대한 우려가 제기되고 있으며, 인종, 성별 차별 등이 발생할 가능성도 경고되고 있다.
- 중국 정부는 기술 기업에게 자사의 추천 알고리즘에 대한 세부 정보를 제출하도록 요구하고, 유럽 연합은 자체적인 규제 제도를 제안하고 있다. |
|
|
제너레이티브 AI 솔루션 비교: ChatGPT, Bard, Bing Chat
- OpenAI의 ChatGPT는 2022년 11월 출시되어 2개월 만에 1억명의 사용자 도달 기록을 달성하였음.
- Microsoft은 Bing Chat을 ChatGPT로 개발한 Bing 채팅을 발표하였고, OpenAI는 GPT-4 기반 새로운 버전의 ChatGPT를 출시하였음.
- Google은 Bard를 대중에 공개하였고, 각 솔루션의 성능 비교를 통해 가장 우수한 제너레이티브 AI 솔루션은 무엇인지 알아보고자 함.
- ChatGPT, Bing Chat Balanced, Bing Chat Creative, Bard를 대상으로 30개의 질문을 통해 측정하였음.
- 측정 기준은 On-topic, Accuracy, Completeness, Quality 였고, ChatGPT가 가장 높은 성능을 보였으나 모든 솔루션에는 사람의 검토가 필요하다는 것을 알 수 있었음.
- 각 솔루션은 다양한 방식으로 활용될 수 있지만, 사용자에게 가치를 제공하기 위해서는 웹에서 발견되는 정보를 간단히 복제하는 것보다 자신만의 독특한 경험과 전문성, 시각을 추가하여 가치를 높일 필요가 있음. |
|
|
기술 기업들, 인간을 압도할 수 있는 인공지능 기술 출시에 대한 우려
- 컴퓨터 과학자들과 일론 머스크, 스티브 워즈니악 등 기술 산업의 중요 인사들이 인공지능 기술이 인간을 압도할 수 있는 위험성을 고려하기 위해 6개월의 일시정지를 요구하는 청원서를 발표
- 청원서는 OpenAI의 AI 챗봇 ChatGPT의 후속작인 GPT-4 출시로 산업의 대형 기업들인 마이크로소프트와 구글 등이 유사한 응용 프로그램을 발표하는 경쟁을 유발함에 따라 발표된 것
- 청원서는 인공지능 기술이 "사회와 인류에 깊은 위험을 초래할 수 있는 '인간과 경쟁할만한 지능'"을 가질 수 있다는 경고를 함께 하며, 이러한 위험을 고려하며 개발 및 배포되는 인공지능 기술에 대한 일시정지를 요구
- 청원서에 서명한 인사로는 Yoshua Bengio, Stuart Russell, Gary Marcus, Andrew Yang, Rachel Bronson 등이 있으며, 머스크와 Emad Mostaque 등도 서명함
- 일부 전문가들은 청원서가 인공지능 기술에 대한 과도한 우려로 비판하고 있으며, 청원서는 인공지능이 인간을 압도할 수 있는 "초인간적인" 기술에 대한 우려보다는 범죄자나 테러리스트 등에 의해 남용될 수 있는 "보통의 인공지능"에 대한 우려가 중요하다는 주장도 있음 |
|
|
주식회사 오늘배움contenjoo@learntoday.co.kr대전광역시 유성구 지족로351 4층 402호 010-4819-1571수신거부 Unsubscribe |
|
|
|
|
