인스타그램 팔로워 오픈AI가 ‘AI 위험을 걱정할 사람’을 찾고 있다

페이지 정보

작성자 또또링2 작성일26-01-01 00:21 조회0회 댓글0건

본문

인스타그램 팔로워 오픈AI가 정신건강, 사이버 보안 등 인공지능(AI)의 위험성에 대비한 안전 체계를 이끌 책임자 채용에 나섰다. AI로 인한 위험이 빠르게 현실화하고 있다는 판단이 반영된 것으로 보인다.
샘 올트먼 오픈AI 최고경영자(CEO)는 27일(현지시간) 엑스에 “모델들은 빠르게 발전해 많은 일을 해낼 수 있지만 동시에 현실적인 도전 과제도 드러내기 시작했다”며 ‘대비 총괄(Head of Preparedness)’을 구한다고 알렸다.
오픈AI 홈페이지에 올라온 채용 공고를 보면 대비 총괄은 오픈AI ‘대비 프레임워크’에 대한 기술 전략 수립과 실행을 총괄하게 된다. 대비 프레임워크는 AI 기술이 고도화되면서 나타날 수 있는 위험을 미리 파악하고 대비하기 위한 체계를 말한다.
올트먼 CEO는 “(AI) 모델이 정신건강에 미칠 수 있는 잠재적 영향은 올해 그 전조를 볼 수 있었다”고 말했다. 컴퓨터 보안 분야에선 AI 모델들이 중대한 취약점을 찾아내기 시작할 만큼 높은 수준에 도달했다고 짚었다.
이 같은 발언은 챗GPT를 둘러싼 ‘정신건강 악화’ 논란과 맞닿아 있다. 지난 8월 미국 캘리포니아에서 10대 소년의 유족이 챗GPT가 아들의 자살을 도왔다며 소송을 제기한 이후 유사한 소송이 잇따랐다. 이달에는 챗GPT가 이용자의 망상을 부추겨 살인을 유도했다는 이유로 오픈AI가 또다시 피소됐다. 이에 오픈AI는 챗GPT에 청소년 보호자 관리 기능을 도입하고, 민감한 대화에서의 응답 방식을 개선하는 등 대응에 나섰다.
하지만 챗GPT를 비롯한 AI 챗봇이 정신건강 관련 질문에 적절하게 답변하지 못하고 있다는 지적은 여전하다. 지난달 비영리단체 커먼센스미디어와 스탠포드대 연구진이 발표한 보고서에 따르면 AI 챗봇들은 자살이나 자해 관련 대응은 개선했지만 불안·우울증·섭식장애·강박장애 등에 대한 경고 신호는 제대로 감지하지 못하는 것으로 나타났다. 위험 신호를 분명하게 드러낸 짧은 대화에는 비교적 잘 대응했지만 길고 복잡한 대화에선 부적절한 답변을 내놓는 경우가 많았다.
그간 오픈AI는 수익성에 집중하느라 안전을 등한시하는 것 아니냐는 비판을 받아 왔다. 기존에도 AI 안전 조직과 대비 총괄직을 두고 있었지만, 지난해 7월 대비 총괄이던 인물에게 다른 업무를 맡기면서 ‘안전 후퇴’ 우려가 커진 바 있다.
이번 채용 공고에서 오픈AI는 연봉 55만5000달러(약 8억원)와 지분 보상을 제시했다. 올트먼 CEO는 “이 일은 상당히 스트레스가 클 것”이라며 “합류하자마자 곧바로 현장에 투입된다”고 말했다.
이재명 대통령이 30일 종교단체의 정치 개입 의혹과 관련해 검·경 합동수사본부나 특별수사본부를 구성해 수사하는 방안을 검토하라고 지시했다. 여야 논의가 공전 중인 특검 도입을 기다리지 말고 검찰과 경찰에 성역 없는 수사를 촉구한 것이다.
이 대통령은 이날 청와대에서 열린 국무회의에서 “헌법 원리를 어기고 종교가 정치에 직접 개입하고 매수하고 유착한 부분은 우리 사회 민주주의의 미래, 나라의 미래를 위협하는 중대 사안”이라며 이같이 주문했다.
이 대통령은 “통일교·신천지 특검을 한다고 해서 더 이상 이야기를 안 했는데, 여든 야든 누구든 지위고하를 막론하고 다 수사해서 진상을 규명하고 책임을 물어야 다시는 이런 일이 안 생길 것”이라며 “하다가 특검에 넘겨주든지 하라. 특수본을 (만들거나) 경찰과 검찰이 같이 합동수사본부를 만들든 따로 하든 (검토하라)”고 지시했다.
김민석 국무총리도 “내란에 이르는 과정을 잘 보면 국정이 흔들리는 과정이 주술정치, 정교유착이 축적되면서 온 게 아닌가 하는 생각”이라며 “차제에 뿌리 뽑아야 한다”고 말했다. 김 총리는 “정치적 공방 속에서 (통일교 특검이) 잘 안 될 수도 있다는 우려가 든다”며 “필요하다면 정부 차원에서 특별수사본부를 준비하는 것까지도 검토해야 하지 않느냐”고 말했다.
김남준 청와대 대변인은 브리핑에서 “합동수사본부 등은 일종의 예시”라며 “수동적으로 방관하기보다 능동적으로 정부가 현재 상태에서 할 수 있는 역할을 다하자는 취지”라고 설명했다.
이 대통령은 최근 문재인 정부 주요 인사들이 서해 공무원 피살 사건과 북한 어민 북송 사건과 관련해 전원 무죄를 받은 것을 두고 “없는 사건 만들고, 있는 증거 숨기고 해서 사람을 감옥을 보내려고 시도하는 게 말이 되느냐”면서 “책임을 물어야 한다”고 말했다.
김 총리도 “감찰권 남용이나 무리한 법리적용, 사실상의 조작 기소로 볼 수 있는 정도의 국가정보원과 검찰의 잘못이 이뤄졌고 인정됐다”면서 “사건을 수사했던 검찰은 항소를 포기하는 것이 당연하지 않나”라고 말했다. 김 총리는 “수사한 검사들이 올바르게 했는지에 대한 감찰이나 정리가 필요하지 않은지 (점검이 필요하다)”라고 법무부에 주문했다.
이 대통령은 온라인 댓글 조작 행위에 대한 엄단 필요성도 언급됐다. 그는 “댓글 순위를 조작하는 건 업무방해일 뿐 아니라 정보 조작으로 민주주의 체제를 위협하는 행위”라며 “각별한 경각심을 가지고 경찰, 검찰, 행안부, 법무부가 잘 챙겨주길 바란다”고 말했다.
이 대통령은 이날 회의에서 조원철 법제처장에게 수사 지휘 관련 규정을 상세하게 물은 뒤 대통령과 행정안전부 장관의 수사 지휘 범위를 정리해 보고해 달라고 주문했다. 이 대통령은 “검찰도 법무부 장관의 지휘를 받는데 국가수사본부장은 누구의 통제도 받지 않고 마음대로 하느냐”면서 “법제처에서 분명하게 정리해줘야 한다. 권한 행사가 애매하면 안 된다”고 했다.
이 대통령은 또 부처 장관과 처장뿐 아니라 산하 청장들도 매주 국무회의에 참여하라고 지시했다. 이에 따라 새해 열리는 국무회의부터는 경찰청장, 검찰총장, 관세청장 등 각 부처 외청장들도 참석할 것으로 보인다.

댓글목록

등록된 댓글이 없습니다.

댓글쓰기

이름 필수
비밀번호 필수
비밀글사용
자동등록방지	자동등록방지 자동등록방지 숫자를 순서대로 입력하세요.
내용

인스타그램 팔로워 오픈AI가 ‘AI 위험을 걱정할 사람’을 찾고 있다 > 노동상담

회원로그인

인스타그램 팔로워 오픈AI가 ‘AI 위험을 걱정할 사람’을 찾고 있다

페이지 정보

관련링크

본문

댓글목록