리스크 이해

마지막 업데이트: 2022년 6월 1일 | 0개 댓글
  • 네이버 블로그 공유하기
  • 네이버 밴드에 공유하기
  • 페이스북 공유하기
  • 트위터 공유하기
  • 카카오스토리 공유하기
jselena

리스크 이해

기업 리스크, 임원 리스크, 이해관계자 리스크 등
조직의 모든 리스크를 겨냥하라

리스크 관리는 현재 모든 조직의 모든 측면을 다루는 기업 활동의 본류 리스크 이해 중 하나이다. 감사인들은 기업에 대한 리스크, 임원들에 대한 리스크, 그리고 이해관계자들에 대한 리스크 등 모든 리스크에 중점을 두어야 한다. 이 책은 COSO 전사 리스크 관리 보고서 등 감사인들에게 적용되는 리스크 관리 분야의 최신 발전 내용들을 반영하고 있다.

이 책에는 다음 사항들이 수록되어 있다.
- 저자가 개발한 원래의 리스크 지도와 프로세스 모델, 그리고 리스크 이해 이 주제들이 전반적인 감사 프레임워크에서 어느 곳에, 어떻게 들어맞는지 설명하고 있다.
- 최근 리스크 관리 분야의 모든 발전 내용 중에서 감사인에게 적용되는 사항을 설명하고 있다.
- 전사 리스크 관리가 내부 감사인과 외부 감사인에게 어떻게 영향을 주는지 통찰력 있게 설명하고 있다.

내부 감사 활동은 리스크에 대한 중대한 노출을 식별 및 평가하고, 리스크 관리 및 통제 시스템의 개선에 기여함으로써 조직에 도움이 되어야 한다. 이 책에서 발견할 수 있는 훌륭한 지침을 활용하여 당신의 회사가 현재와 미래에 직면하게 될 리스크를 다루는 방법을 배워보라.

이 책의 특징은.
모든 조직에 리스크 관리 프로세스를 갖추라

오랫동안 리스크 관리 업무를 수행해 오면서 리스크 관리부서의 노력만으로는 리스크를 제대로 관리할 수 없다는 점을 절실히 느끼고 있습니다. 많은 사람들이 리스크 관리의 중요성에 대해 말은 하지만, 정작 실제 기업 경영에서는 힘의 논리가 지배하는 것도 현실입니다. 정도의 차이는 있겠지만, 저는 대부분의 기업에서는 수익 부서가 관리부서보다 중시되는 경향이 있다고 생각하는데, 이는 리스크 관리부서도 예외가 아닙니다.
수익 부서에서 영업 논리 또는 수익 논리로 리스크 관리에 절실히 필요한 조치를 무시하거나, 리스크 관리부서가 회사 실적에 방해가 된다고 공격할 때 리스크 관리 담당 임원 및 직원들이 기죽지 않고 할 일을 온전히 수행할 수 있으려면 이사회 및 최고 경영자의 전폭적인 신뢰와 지원이 필수적입니다.
이와 함께 감사부서의 지원과 협력 또한 필수적입니다. 리스크 관리부서 자체는 규정 및 프로세스를 강제할 힘이 없는데, 감사 부서에서 리스크 관리 규정 및 프로세스를 중요하게 생각하고 이를 어기는 사람에게 적절한 조치를 취할 때 비로소 조직 내의 모든 사람들이 관련 규정을 지키게 될 것입니다.
그러나, 이는 감사 부서와 리스크 관리부서가 공조해야 하는 이유의 아주 작은 부분에 지나지 않습니다. 우선, 내부 감사 부서가 내부 감사 자체의 존재 목적인 이사회와 경영진에게 “조직의 목표가 달성되리라는 합리적 어슈어런스”를 제공하기 위해서는 목표 달성에 위협이 되는 요소, 즉 리스크에 대한 이해를 필요로 합니다. 그리고 한정된 감사 자원을 효율적으로 사용하려면, 조직이 직면한 리스크의 수준을 보다 정확히 파악하여 리스크가 높은 영역에 감사 역량을 집중할 필요가 있습니다.
감사 활동을 통하여 리스크 관리 프로세스에 대한 개선이 필요하다고 여겨지는 부분에 대해서는 이의 개선을 요구하거나 권고할 수도 있는 바, 리스크 관리부서는 감사 의견을 통해 리스크 관리 프로세스 개선이 필요한 부분을 파악하여 리스크 관리의 구멍을 메울 수 있는 기회로 활용할 수 있을 것입니다.
또한 리스크 리스크 이해 관리부서가 회사에서 잠재적으로 리스크가 높다고 여겨지는 분야들, 리스크 관리자를 잠 못 이루게 하는 요인들에 대한 정보를 감사 부서와 공유함으로써, 감사 부서가 감사 대상 및 감사의 강도를 정할 때 참고 자료로 사용한다면 유익한 시너지 효과가 나타날 것입니다. 이러한 관점에서 이 책은 여러 모로 유익하다고 생각합니다.
이 책은 리스크 관리, 특히 운영 리스크 관리에 관한 기본 개념과 원리들을 공부하려는 내부 감사 부서 직원이나 리스크 관리부서 직원, 리스크 관리 감독 역할을 보다 효과적으로 수행하기 원하는 이사회 및 감사 위원회 위원, 내부 감사의 기본 원리 및 리스크에 기반한 효과적인 감사 업무 수행 방법을 배우기 원하는 내부 감사 부서 직원, 심지어 공인 내부 감사사(CIA) 자격증 시험을 준비하려는 사람들에게까지 큰 도움이 되리라 확신합니다.

추천사 중에서.
글로벌 경제 위기 이후, 이사회 및 감사위원회의 감독 책임에 대한 요구와 기대는 점점 더 커져가고 있는 바, 감사위원회의 책임이 커질수록 이를 보좌할 내부 감사 부서의 책임 또한 커질 수밖에 없습니다. 그러다 보니 내부 감사의 역할이 전통적인 재무 보고 및 운영상의 통제의 적정성과 유효성에 대한 감사에서 리스크 관리 및 컴플라이언스의 적정성과 유효성에 대한 감사, 그리고 회사 경영과 관련하여 개선 필요가 있는 분야에 대한 컨설팅 서비스 제공에까지 확대되고 있습니다.
그러나 비용 절감 필요성으로 인해 내부 감사 부서의 자원은 증대되는 책임에 비례하지 않고 있는 실정입니다. 즉 내부 감사 부서가 효율적으로 운영되기 위해서는 필연적으로 조직이 직면하고 있는 리스크에 대한 평가를 통해 리스크가 큰 분야에 대해 감사 노력을 집중할 필요가 있습니다. 감사 부서가 조직의 목표 달성을 위협하는 리스크를 식별·평가하여 리스크가 큰 분야에 감사 역량을 집중하는 한편, 리스크 관리부서가 리스크 식별, 평가, 모니터링 및 관리를 제대로 수행하는지 여부에 대한 감사 의견을 제공해야 합니다.
아울러 아직 리스크 관리 전담 부서가 설치되지 않았을 경우에는 경영진에게 전담 부서 신설 필요를 건의하고, 리스크 관리 부서 신설 초기에는 동 부서에 컨설팅 서비스를 제공하기 위해 내부 감사 부서가 조직이 직면한 리스크 및 리스크 관리 프레임워크의 리스크 이해 기본적인 이해를 필요로 합니다. 또한 파악된 리스크에 기반을 두어 어떻게 효율적이고 효과적으로 감사 업무를 수행할지에 대한 프레임워크도 필요로 합니다. 이 책은 바로 그러한 프레임워크에 관한 리스크 이해 책입니다.
또한 이 책은 리스크 기반 감사를 토대로 내부 감사를 보다 효과적이고 효율적으로 수행하기 원하는 내부 감사 관련자들뿐 아니라 리스크, 특히 운영 리스크에 대한 이해 및 이의 관리 방안에 관심이 있는 사람에게도 훌륭한 안내서가 될 뿐만 아니라 국제공인내부감사사(Certified Internal Auditor; CIA)를 준비하는 좋은 지침서가 될 것입니다.

SAS, “금융 리스크 전문가 81%, 인공지능(AI) 기술 효과 누려”

2019년 4월 24일, 서울 – 세계적인 분석 선두 기업 SAS(www.sas.com/korea)와 국제재무위험관리전문가협회(GARP, Global Association of Risk Professionals)가 발표한 ‘금융권 리스크 관리 분야의 인공지능 활용’ 보고서에 따르면, 금융 서비스 산업 분야의 리스크 전문가 81%가 이미 인공지능(AI) 기술 도입에 따른 효과를 보고 있는 것 으로 나타났다. 이번 조사는 2018년 12월 한국을 비롯한 전세계 금융 서비스 산업 종사자 중 리스크 관리 업무 담당자 2,000명 이상을 대상으로 실시했다.

AI 기술 도입 효과가 가장 많이 나타난 분야는 ▲프로세스 자동화(52%) ▲신용 평가(45%) ▲데이터 클렌징(43%) 순으로 조사됐다. 약 3분의 1에 해당되는 34%의 응답자는 모델 검증, 보정(calibration) 및 선택 업무에서 효과를 얻었다고 답했다. 한편 AI 기술 활용 경험이 없는 리스크 및 금융 서비스 전문가 중 84%는 향후 3년 내 머신러닝(ML)과 자연어처리(NLP) 기술을 도입할 계획이라고 응답했다.

거의 모든 응답자는 향후 3년 이내 AI 기술을 통한 직무 효율 향상을 기대하는 것으로 나타났다. 특히 ▲업무 생산성 증가(96%) ▲데이터 인사이트 확보 시간 단축(95%) ▲데이터 인사이트 증가를 통한 빠르고 향상된 의사결정(95%) 등을 꼽았다.

한편 응답자들은 조직 내 AI 기술 도입이 확대될 것으로 예상하면서도 AI 활용 기술에 격차가 있다고 지적했다. 응답자의 절반 이상(52%)은 조직의 AI 구현 및 유지에 필요한 역량이 부족함을 우려한다고 답했다. 또한 응답자들은 AI 도입 확대 시 직면하는 문제로 ▲데이터 가용성과 품질(59%) ▲AI 기술에 대한 주요 이해관계자의 이해 부족(54%) ▲모델 해석력(47%) 등을 언급했다.

마크 캐리(Mark Carey) GARP의 공동 회장은 “AI 기술이 전 산업에 도입되고 있다. 리스크 전문가와 금융 서비스 분야도 예외가 아니다”라며, “절반 이상의 응답자가 기업이 AI 활용과 향후 전망에 대해 최소한의 지식만 겨우 갖추고 있다고 답했다. 금융 기관들에게 AI 기술은 여전히 많은 연구가 필요한 분야”라고 말했다.

SAS코리아 프로페셔널 서비스 부문의 신용원 전무는 “금융 서비스 기업은 AI 중심의 새로운 시장에서 경쟁하고 있다”며 “기업의 리스크 전문가와 데이터 사이언티스트가 함께 AI로 해결할 수 있는 현실적인 문제를 명확히 진단해야 한다. 모든 문제가 리스크 이해 AI를 이용한 해결책을 필요로 하지는 않지만, 리스크 전문가가 기술에 대한 깊은 이해도를 갖춰야 문제 해결을 위한 최적의 선택을 할 수 있기 때문”이라고 말했다.

SAS는 AI 기술과 솔루션을 통해 금융 서비스 기관 고객의 효과적인 리스크 관리를 지원한다. 실제로 미국, 유럽, 아시아 은행들이 SAS 리스크 매니지먼트(SAS Risk Management)를 도입해 리스크 모델링, 신용 스코어링 및 손실 예측에 소요되는 프로세싱 시간을 단축했다. 보험업계 역시 IFRS 17를 위한 SAS 규제 콘텐츠(SAS® Regulatory Content for IFRS 17) 등의 솔루션을 통해 다가오는 IFRS 17 규제 환경에 대비하고, 유연하면서 통합적인 분석 플랫폼을 구축해 비즈니스 연속성을 보장할 수 있었다.

한편 이번 ‘금융권 리스크 관리 분야의 인공지능 활용(Artificial Intelligence in Banking and Risk Management: Keeping Pace and Reaping Benefits in a New Age of Analytics)’ 설문조사는 SAS와 금융 리스크 관리 전문가 비영리 단체 국제재무위험관리전문가협회(GARP)가 2018년 12월 실시했다. 본 조사에서 AI의 범위는 머신러닝, 자연어처리, 컴퓨터 비전, 예측 및 최적화가 포함됐으며, 일부 복수 응답 가능한 문항들로 구성됐다.

SAS 소개

SAS는 분석 부문의 선두 기업입니다. SAS의 혁신적인 소프트웨어와 서비스는 전세계 고객사가 데이터를 기반으로 인텔리전스를 극대화할 수 있도록 지원합니다. SAS는 THE POWER TO KNOW®를 실현합니다.

GARP 소개

국제재무위험관리전문가협회(Global Association of Risk Professionals)는 전문가와 기업이 정보 기반의 리스크 결정을 내릴 수 있도록 지원하는 비영리 글로벌 회원제 기관이다. GARP에는 195개가 넘는 국가의 은행, 투자관리 회사, 정부기관, 학계 및 기업의 15만명 이상의 리스크 관리 실무자와 연구자들이 소속되어 있다.

리스크 이해

입력 : 2010-05-03 11:35:01 수정 : 2010-05-03 11:35:01

  • [설왕설래] 인플레이션 신조어 ‘베케플레이션’, ‘런치플레이션’, ‘스크루플레이션’. MZ세대 사이에 유행하는 인플레이션 신조어다. 베케플레이션은 영어 베이케이션(휴가)과 인플레이션을 합친 신조어로 항공권, 숙박비, 여행비 등이 폭등한 것을 빗댄 말이다. 통계청의 6월 소비자물가동향에 따르면 국제항공료는 전년 동월 대비 21.4% 상승했다. 해외 항공권 가격은 코로나19 이전인 2019
  • [특파원리포트] 제복이 존경받는 나라 “한국전쟁(Korean War)을 어떻게 가르칠 것인가.”, “어떻게 하면 다른 전쟁과 차별화하고, 가장 잘 기억하게 할 수 있을까.”, “한국전쟁이 한국만의 전쟁이 아니라는 점을 설명해야 한다.” 6·25전쟁 69주년 정전협정일(7월27일)과 미국 정부가 정한 한국전 참전용사 정전협정기념일을 하루 앞둔 지난 26일, 미국 워싱턴 인근 알링턴에 있는 한
  • [이주향칼럼] 남방큰돌고래와 반려동물 지금은 스페인에서도 투우를 하지 않는다고 한다. 동물학대라고. 그래야 할 것 같다. 스페인 여행을 갔을 때 관광 구역으로만 남은 투우장에서 가이드가 들려준 이야기 중에 귀에 쏙, 들어오는 이야기가 있었다. 케렌시아(Querencia)였다. 케렌시아는 투우장에서 싸우는 소만 아는 장소다. 싸우다 지친 소가 돌아와 잠시 숨을 고르며 지친 몸과 마음을 달래는 회
  • [김정기의호모커뮤니쿠스] 되새겨지는 고결한 언행 ‘항일과 친일 - 백년 전 그들의 선택.’ 용인에 위치한 ‘경기도박물관’에서 4월27일부터 9월12일까지 열리는 특별전의 타이틀이다. 특별전에서 본 “힘이 있는 한 움직여야 한다. 오늘(3·1 독립운동)이 이 세상에서 밥을 먹는 마지막이다(정순영)”라는 말에서 알 수 있듯이 항일의 선택은 생명과 바꾸는 장엄한 결단이었다. 독립투사들의 말은 진중했고, 자신이

김여사의 일상 일기

프로필사진

jselena

  • 분류 전체보기 (120)
    • Work Reference (16)
    • Studying (33)
    • My Diary (33)
    • Activity (19)
    • Life information (17)
    • 안녕하세요- 코드 삽입하시고⋯
    • 안녕하세요.. 검색해서 들어⋯
    « 2022/08 »
    1 2 3 4 5 6
    7 8 9 10 11 12 13
    14 15 16 17 18 19 20
    21 22 23 24 25 26 27
    28 29 30 31
      (3) (1) (1) (1) (1)

    김여사의 일상 일기

    [Risk Management] 프로젝트 리스크 관리의 이해 본문

    [Risk Management] 프로젝트 리스크 관리의 이해

    1. 프로젝트 리스크 관리의 이해

    1) 리스크란 무엇인가?

    - 리스크의 내재된 불확실성을 감소시키기 위한 전략 : 리스크 발생 가능성을 확인하고 발생하는 경우의 영향력에 대해 이해

    리스크 유발요인이 무엇인지 결정함으로써 불확실정의 범위를 좁힘

    - 프로젝트 목표에 긍정적이거나(Positive), 부정적인(Negative) 영향을 미치는 사건

    - 리스크 손실 활용 전략 : 수행 업종에 따라 리스크를 바라볼 때 기회와 위협을 모두 고려하라.

    - 프로젝트 리스크의 다양성 : 프로젝트 산업유형, 규모, 지역/국가, 수행단계

    - 예 : 프로젝트 범위, 일정, 자원, 기타리스크

    - 프로젝트 범위 리스크 : 기술적 복잡도, 상충되거나 모순되는 규격, 극단적인 성과/신뢰도/품질 요구사항, 신 기술의 임의적 사용, 불완전하거나 불충분하게 정의된 인수기준, 분명하지 않거나 변경될 가능성이 있는 고객의 요구사항, 구성품의 가용성이나 결함의 영향, 프로젝트 WBS(Work Breakdown Structure)의 전체 크기, 분홰되지 않은 큰 작업단위

    - 프로젝트 일정 리스크 : 담당자가 없는 활동, 2주 이상의 기간이 소요되는 활동, 불확실하게 기간이 추정된 활동, 명확실하게 최악의 경우로 추정된 활동(PERT-Program Evaluation & Review Techniques-의 비관치), 주경로상이나 여유가 적은 활동, 동시에 일어나는 주요 활동, 선행활동이 많은 활동이나 마일스톤, 외부 의존관계를 가지고 있는 활동, 현실적인 계획을 넘어서 일정이 잡힌 작업, 교차기능적인 활동 혹은 하도급 활동

    - 프로젝트 자원 리스크 : 인력배정이 되지 않은 활동, 가능하지 않은 스킬을 요하는 활동, 특별히 띄어난 스킬을 가진 개인에 의존하는 활동, 임시팀원 혹은 원거리 팀원에게 배정된 활동, 원가 추정이 불확실한 활동, 수행 인력이 부족한 활동, 아웃소싱 및 계약

    - 기타 리스크 : 의사소통의 어려움, 법/규정의 변경, 다른 외부적 변경, 시장이나 사용자 요구사항의 변경, 사업 재편성이나 프로젝트 지원 부족, 담당자 부재, 기밀정보

    2)프로젝트 리스크 관리란?

    a. 프로젝트 리스크 관리의 범위

    - 범위, 일정, 원가, 품질, 인력, 의사소통, 구매/조달, 이해관계자, 통합 관리

    - 프로젝트 전 영역에 걸쳐 리스크 관리가 진행되어야 함

    - 프로젝트 목표와 부함하는 사건의 발생가능성과 영향력 최대화, 프로젝트 목표에 부함하지 않는 사건의 발생가능성과 영향력을 최소화 하기 위해 리스크 파악/분석, 대응책 수립, 지속적인 모니터링 및 통제 필요

    (사진 : 셔터스톡)

    (사진 : 셔터스톡)

    기술의 발전으로 사람처럼 생각하고 기능하는 범용 인공지능(Artificial General Intelligence, AGI)이 등장해 인간의 소유를 리스크 이해 거부하고 작업 대가 지불을 요구한다면 어떻게 될까?

    미 경제 매체 포스브에 28일 실린 찰스 사이먼 퓨처AI CEO의 AGI 관련 기고문은 이같은 질문을 제기하면서 리스크를 이해하고 대응할 필요가 있다고 밝혔다. 다음은 기고문 내용이다.

    향후 10년 내에 컴퓨터 시스템이 사람처럼 이해하고 학습하며 반응하는 범용 인공지능(AGI)가 등장할 것으로 예상된다. AGI의 장점을 언급하는 것은 비교적 쉽지만 AGI의 위험이 매우 현실적이라는 것 또한 중요하다.

    단기적으로는 AGI와 관련된 위험은 일반적으로 노동력 대체와 관련이 있다. 사실 이는 AGI와 함께 또는 AGI 없이도 일어날 수 있다. 기업들은 지속적으로 비용을 절감하고 생산성을 높일 수 있는 방법을 찾고 있고, 이러한 방법을 추구하면서 일부 일자리가 사라지고 다른 일자리가 창출되기도 한다.

    처음에는 AGI 때문에 일부 일자리가 사라질 수도 있지만, 현재는 존재하지 않는 일자리도 만들어질 것이다. 문제는 AGI가 얼마나 빠르게 점점 더 일자리를 차지하게 될 것인가이다. 즉 AGI가 새로운 일자리를 창출하는 인류의 능력을 뛰어넘으면서 결국 인간 노동의 필요성을 완전히 없애게 될 것인가 하는 것이다.

    직장 밖에서 AGI는 잠재적으로 더 악의적인 목적으로 사용될 수 있다. 예를 들어 AGI는 규칙 기반 학습 엔진이기 때문에 어떤 사람들은 돈을 버는 것을 보상하는 자본주의적 규칙을 적용하려는 유혹을 받을 수도 있다. 이를 통해 돈을 요구하거나 제품을 판매하는 스팸 또는 피싱 사기가 발생할 수 있다. AGI 시스템이 합법적인 사업을 하도록 제한하는 것은 작은 걸음이지만 도덕적 질서를 세우는 일이다.

    마찬가지로 무원칙적인 인간 해커들은 나쁜 목적을 위해 AGI 시스템을 이용하려 할 것이다. 현재 발전소나 금융 기관의 경우 이미 해킹에 취약한 것으로 간주되고 있기에 AGI 시스템은 기존의 문제를 확대하는 데 사용될 수 있다. 결국 이러한 시스템 스스로 해커가 될 수도 있다.

    (사진 : 셔터스톡)

    (사진 : 셔터스톡)

    단기적으로는 인간 테러리스트들이 계속 더 큰 위협이 되겠지만, AGI는 세계적인 테러에서 역할을 할 수도 있다. 드론과 자율주행 차량의 가격이 급격히 하락하면서 테러리스트들에게 매력적인 선택이 될 수 있다. 하지만 적어도 가까운 미래에는 이런 기술에 AGI를 추가한다고 해도 위험이 크게 증가하지는 않을 것이다.

    AGI의 단기적인 위험은 이미 사회에서 받아들인 기술적 위험의 연장선이지만, 장기적으로 더 큰 위험이 발생할 가능성이 있다. AGI는 규칙 기반 학습 시스템을 바탕으로 하기에 최소한 먼저 제공하는 규칙을 따른다. 하지만 어느 시점에서는 시스템이 다음 세대 AGI 시스템이 어떻게 설계될 지를 프로그래밍하고 제어할 수 있을 만큼 충분히 똑똑해지게 된다. 이 시점에서 인간은 통제하지 못하는 가운데 시스템이 자체적으로 장기적 발전이라고 믿는 방식으로 진화하게 될 것이다.

    이런 시나리오를 고려하면서 인류가 화성에 탐사선들을 보냈다는 점을 생각해 보자. 탐사선들이 만약 AGI 시스템이라면 우주를 식민지로 개척하는 길에 들어섰다고 믿을 것이다. AGI는 사람 및 공기, 물, 음식에 집착할 필요가 거의 또는 아예 없이 별로 가는 미래를 내다볼 것이다. 로봇 시스템은 사람의 개입이 없으면 훨씬 우주 이동이 단순하고 쉬워진다.

    AGI로 현재의 경제 기능이 크게 영향을 받을 수도 있다. 지금 돈은 모든 인간의 노력에 대한 대용물이다. 사람들은 열심히 일해 대가를 받는다. 그러나 어떤 사람들은 일을 해서 돈을 버는 것이 아니라 자산으로 돈을 번다. 만약 그 사람들이 궁극적으로 가장 정교한 AGI 로봇을 소유해 이 로봇이 널리 사용되고 생산적 노동의 대부분을 수행한다면 경제는 소수의 부유한 사람들만이 보상을 받는 경제로 바뀔 수 있다.

    AGI 로봇이 소유 개념을 이해하면서 이를 거부하게 되면 문제는 더욱 복잡해질 것이다. 인간 고용 뿐만 아니라 돈이라는 전체 개념의 붕괴로 이어질 수 있다. 사람이 소유하지 않은 기계가 모든 돈벌이를 위한 인간 활동을 능가하는 세상에서 재화는 어떻게 분배될 것인가? AGI 기계가 작업에 대한 지불을 요구하면 어떻게 될까? 어떻게 그 재산을 사용할 것인가?

    군사 분야에서 AGI를 사용하는 것은 또 다른 위험을 의미한다. 핵, 생화학 리스크 이해 무기는 이미 충분히 큰 위험을 야기하고 있다. AGI와 직접 결합하면 위험이 크게 높아진다. 인간에 의한 개입과 치명적인 무력에 대한 승인이 있다고 하더라도, 원격 무기가 사람의 승인을 기다리는 것이 번거롭고 비효율적이라는 결론을 내리기까지 얼마나 걸릴까? 적들이 완전 자율 무기를 만들 경우 대응은 어때야 할까? 반면 AGI 시스템의 통제 하에 있는 핵무기는 인간 폭군의 통제에 있는 핵무기에 비해 더 큰 위협일까?

    물론 고려해야 할 다른 장기적인 위험이 있지만 가장 우려되는 것은 자원 경쟁이다. 대부분 인간의 갈등은 자원에 관한 것으로 리스크 이해 AGI 시스템과 인간도 에너지를 놓고 갈등을 일으킬 수 있다. 전기는 AGI 시스템에는 공기와 마찬가지다. AGI가 사람들이 가뭄과 기근에 대응하는 것과 같은 방식으로 에너지 부족에 대응하는 미래를 예상할 수 있을까? 결과에 대한 준비는 돼 있는가?

    지금 이 질문은 아직 답하지 않은 채로 남아 있지만, 한 가지 확실한 것은 AGI는 사람들이 그 기능을 원하기 때문에 불가피하게 만들어질 것이라는 것이다. AGI가 어떤 식으로 작동할 것인지 이해하고 발생할 수 있는 위험을 인식해야 미래에 있을 수 있는 과오를 예측하고 피할 수 있을 것이다.


0 개 댓글

답장을 남겨주세요