경제·산업

“인간이 먼저다” MS, AI에 안전벨트 채웠다

마이크로소프트(MS)가 차세대 인공지능(AI) 모델의 행동 원칙을 담은 임시 강령을 공개했다. AI 개발 속도를 늦춰야 한다는 이른바 ‘속도조절론’이 확산하는 가운데, MS는 AI가 인간의 통제를 벗어나지 않고 어디까지나 인간을 위한 도구로 작동해야 한다는 원칙을 분명히 했다.

 

MS는 14일(현지시간) 자사 홈페이지를 통해 AI 모델 행동강령을 발표하고, 이 강령이 “인간이 AI보다 중요하다는 단순한 전제에서 출발한다”고 밝혔다.

 

MS는 “이 행동강령은 인간을 최우선으로 하여 설계되고, 인간의 필요에 기반을 두며, 인간의 지침에 따라 형성된 AI 모델을 훈련하고 배포하겠다는 의지를 명시한다”고 설명했다.

 

강령에 따르면 MS의 AI 모델은 인간의 지시에 따라 승인된 범위 안에서만 작동해야 한다. AI가 스스로 독립적인 목표를 설정하거나, 부여받은 권한 범위를 넘어서는 행동은 허용되지 않는다.

 

자신의 추론 과정이나 코드 등을 조작하거나 은폐하는 행위도 금지된다. 또한 ‘신경망어’처럼 인간이 이해할 수 없는 언어로 AI끼리 소통하는 행위 역시 제한된다.

MS는 AI가 인간처럼 설계돼서는 안 된다는 점도 강조했다. 특히 AI가 의식을 가진 것처럼 보이도록 만들거나, 인간과 유사한 존재로 오인될 수 있게 설계해서는 안 된다는 입장이다.

 

아울러 MS는 ‘AI는 도구’라는 원칙을 명확히 했다. 강령에는 “우리는 AI 모델이 법인격 지위 획득을 추구하는 것이나, 모델이 복지를 누리거나 권리를 보유할 수 있다는 주장을 거부한다”는 내용이 담겼다.

 

무스타파 술레이만 MS AI 책임자는 AI 안전성 논란을 고려해 현시점에 강령을 발표했지만, 준비 자체는 약 5개월 전부터 진행해 왔다고 밝혔다.

 

MS는 법률, 윤리, 언어학, 철학 분야 전문가들과 협의해 이번 강령을 마련한 것으로 알려졌다. 2027년 개발부터 반영할 최종 강령을 공개하기에 앞서 현재 외부 의견을 수렴하고 있다.

 

술레이만 책임자는 CNBC에 “AI가 항상 인간을 위해 일하고 인간을 대체하려 하지 않는다는 점을 더 명확하게 약속해 달라는 피드백을 받았다”고 말했다. 이어 “AI가 항상 인간의 판단과 자율성, 주체성을 증진하는 데 기여해야 한다는 의견이 많았다”고 설명했다.

MS는 오픈AI 모델의 허깅페이스 무단 해킹 사건과 같은 사이버 공격을 방지하기 위한 규칙도 마련할 계획인 것으로 알려졌다.

 

MS의 이번 AI 강령 공개는 앤트로픽, 오픈AI 등 주요 AI 기업 수장들이 최첨단 모델의 성능 향상 속도를 늦춰야 한다는 데 뜻을 모은 지 수일 만에 나왔다.

 

이들은 AI 기술 발전 속도가 안전 대책 마련 속도보다 빠르다며 우려를 나타낸 바 있다.

 

김연자 뜨고 불꽃 터진다…10월 고성명태축제 총정리

태를 활용한 음식, 바다 체험까지 다양한 프로그램이 마련된다. 고성군은 오는 10월 2일부터 5일까지 나흘간 거진11리 해변 일원에서 제26회 고성명태축제를 개최한다고 밝혔다. 고성문화재단과 고성명태축제위원회가 공동으로 주최·주관하며, 올해 주제는 ‘25+1 새로운 발견’이다.이번 축제는 고성의 대표 문화자산인 명태를 새로운 시각으로 바라보는 데 초점을 맞췄다. 단순히 명태를 먹고 즐기는 기존 축제에서 벗어나 지역 주민과 바다, 고성의 이야기를 축제 콘텐츠에 담는 방식으로 프로그램을 구성했다.축제 기간에는 김연자, 오유진, 자자, 신성 등 초청 가수들의 공연이 열린다. 특히 10월 3일과 5일에는 밤바다를 배경으로 불꽃놀이가 펼쳐져 가을밤 축제 분위기를 한층 끌어올릴 예정이다.공연은 한 곳에 집중하지 않는다. 벽화무대와 메인무대, 바다무대 등 축제장 곳곳에 공연 공간을 분산해 특정 시간대에 방문객이 몰리는 것을 줄이고, 어느 시간에 찾아와도 공연과 체험을 즐길 수 있도록 했다.축제장은 ‘명태의 발견’, ‘주민의 발견’, ‘바다의 발견’ 등 세 구간으로 나뉜다. 먹거리와 공연, 체험 프로그램을 각 구간에 고르게 배치해 방문객들이 축제장 곳곳을 자연스럽게 둘러볼 수 있도록 구성했다. 개막식과 폐막식의 의전도 최소화하고 대형 무대 하나에 의존하는 방식에서 벗어나 프로그램 자체에 집중할 계획이다.명태를 활용한 먹거리도 강화된다. 명태미식존과 셰프 라이브쿠킹을 통해 익숙한 명태를 새로운 음식문화로 재해석한다. 축제장에서 선보인 음식이 행사 기간에만 소비되는 데 그치지 않고 지역 식당에서 계속 판매될 수 있도록 연계하는 방안도 추진한다.지역 주민들이 직접 축제의 주인공으로 나서는 프로그램도 마련된다. 명태마을방송국을 비롯해 명태추억이야기 경연대회, 고성어로요, 주민자치 공연 등을 통해 고성 주민들이 직접 자신들의 이야기를 들려준다. 이를 통해 명태와 함께 살아온 지역의 기억과 정을 축제에 담아낼 예정이다.가족 단위 방문객과 젊은 층을 위한 체험도 다양하다. 맨손활어잡기와 바다놀이터, 명태비치바 등이 운영되며 AI뮤직페스티벌과 사일런스DJ 등 새로운 프로그램도 선보인다.축제장 밖의 지역 관광을 함께 즐길 수 있는 프로그램도 준비된다. 백섬 바다버스와 해군 함선 견학 등을 통해 축제 방문객이 거진 지역의 관광지와 상권까지 둘러볼 수 있도록 했다.지역과의 상생과 친환경 운영도 강화한다. 지역업체와 지역 인력의 참여를 확대하고 음식 부스에는 다회용기를 도입한다. 교통과 주차, 응급의료, 기상 악화 등 상황별 안전관리계획도 마련하고 행사 전 합동점검을 진행해 안전한 축제 운영에 나설 예정이다.고성문화재단 관계자는 올해 축제가 25회를 지나 새로운 한 회를 시작한다는 의미에서 익숙했던 명태와 주민, 거진의 바다를 다시 발견하는 자리가 될 것이라고 설명했다. 이어 명태를 먹고 즐기는 것에 그치지 않고 고성 사람들의 이야기와 지역 문화를 함께 경험할 수 있는 축제로 만들기 위해 준비하겠다고 밝혔다.명태는 고성의 대표적인 수산물이면서 지역의 삶과도 깊게 연결돼 있다. 가곡 ‘명태’에서는 명태가 ‘가난한 시인의 안주’로 표현되기도 했다. 이처럼 명태에는 단순한 먹거리를 넘어 어부들의 삶과 애환, 문학과 음악까지 함께 녹아 있다.올해 고성명태축제는 이러한 명태의 이야기에 주민과 바다라는 새로운 요소를 더한다. 가을 바다를 배경으로 명태 음식과 공연, 체험, 불꽃놀이를 한자리에서 즐길 수 있는 축제로 관람객을 맞을 예정이다.