빨라진 배포, 복잡해진 장애…사이트 신뢰성 엔지니어가 AI에 거는 기대와 현실

사이트 신뢰성 엔지니어(SRE)는 성능 및 신뢰성 문제 해결이라는 까다로운 일을 처리해야 하지만 사실 SRE의 주 업무는 데브옵스 팀에 운영 인사이트를 제공하고 비즈니스 시스템 성능, 보안, 그리고 전반적인 견고성에 대한 구현 측면의 개선 방안을 제안하는 데 있다.

구글은 2003년에 SRE 플레이북을 도입했으나 이 역할의 정의와 툴, 기법이 주류로 자리를 잡기까지는 꽤 오랜 시간이 걸렸다. 가장 먼저 신생업체들이 클라우드 네이티브 애플리케이션에 대한 관찰가능성을 도입하고 SRE 전담 직책을 마련했다. 이후 툴이 성숙해지고 SRE의 책임이 더 명확하게 정의되면서 규모가 큰 기업은 더 광범위한 애플리케이션, API, 데이터 파이프라인에 걸쳐 회복탄력성을 개선하고자 SRE에 데브옵스와 IT옵스 팀 간의 가교 역할을 부여했다.

SRE는 뛰어난 관찰력과 날카로운 데이터 분석 기술, 압박 속에서 업무를 수행할 수 있는 다방면의 역량을 갖춘 엔지니어에게 맞는 진로다. 기술이 기업의 핵심 요소가 되면서 SRE도 중요한 직책으로 부상했고 생성형 AI 시대에 들어서는 AI 에이전트를 구축하는 기업이 증가함에 따라 더 성장 중인 역할이다.

그러나 더욱 커진 회복탄력성의 필요성과 기술적 복잡성은 SRE에게 새로운 과제를 야기한다. 2026 프로덕션 신뢰성 및 AI 도입 현황 보고서에 따르면 설문조사 응답자의 44%가 지난 1년 사이 무시 또는 차단된 알림과 관련된 장애를 경험했으며, 35%는 엔지니어가 알림 피로로 인해 알림을 무시하거나 별다른 조치 없이 지나치는 경우가 종종 있다고 답했다. 또한 기업의 57%는 수신된 알림 중 조치가 불가능한 알림의 비율이 70% 이상이라고 답했다.

그렇다면 AI는 SRE의 역할을 더 쉽게 해주고 기업의 기술 운영 신뢰성을 높이는 데 도움이 되고 있을까? 다른 한편으로, 기업이 더 많은 비즈니스 기능을 대상으로 생성형 AI 툴과 AI 에이전트를 배포하고 운영 전반에 걸쳐 더 많은 의사결정을 자동화할 방법을 모색하면서 AI로 인해 복잡성이 가중되기도 한다.

SRE에게 도움이 되는 AI옵스와 에이전틱 옵스

지난 10년 동안 모니터링 플랫폼, 관찰가능성 관행, 운영 데이터 중앙화를 위한 툴, 그리고 AI옵스가 발전하면서 SRE의 업무도 어느 정도 쉬워졌다. 그러나 장애나 성능 문제를 다급히 해결하는 중에는 문제를 촉발한 시스템과 그 시스템의 영향을 받은 다른 다운스트림 시스템을 정확하게 식별하기가 쉽지 않다.

쿠버네티스 관리 플랫폼 코모도어(Komodore) 2025 엔터프라이즈 쿠버네티스 보고서에 따르면 프로덕션 사고 원인의 79%는 배포, 컴퓨팅 환경 변경을 포함한 최근의 시스템 변경이다. 그러나 나머지 21%는 네트워크 장애, 서드파티 변경, 클라우드 제공업체 장애 등 기업의 통제 범위를 벗어난 부분에서 발생한다.

코모도어 CTO인 이티엘 슈바르츠는 “AI 기능을 사용하는 SRE의 성공과 실패는 사고가 전개되는 순간, 즉 엔지니어가 다음에 조사할 대상을 정하는 순간에 결정된다. 시스템이 근본 원인 탐지를 간소화하고 신호를 최근 변경 사항에 연결하고 엔지니어가 이해할 수 있도록 그 이유를 설명하면 신뢰를 얻게 되지만, 불확실성을 더하거나 부가적인 검증이 필요하다면 기반 모델이 아무리 맞춤형으로 만들어졌든 결국 외면받게 된다. 프로덕션에서 작업하는 SRE에게 실제로 유용한 AI가 되기 위해서 필요한 것이 무엇인지, 그리고 그 현실과 프로토타입, 데모 또는 초기 내부 빌드가 얼마나 다른지가 명확하지 않다”고 말했다.

AI옵스는 새로운 역량이 아니다. 특히 머신러닝을 사용해서 모니터링 및 알림 시스템 전반에 걸쳐 로그, 메트릭, 트레이스의 상관관계를 찾는 영역에서는 더욱 그렇다. IT 서비스 관리 담당자와 SRE는 평균 사고 해결 시간을 줄이고 정확한 근본 원인 분석(RCA)을 효율적으로 수행하기 위해 이전부터 AI옵스를 사용해 왔다. 에이전틱 옵스는 AI 에이전트 모니터링, 에이전트 액세스 권한 관리, AI 모델 정확도 드리프트 감지 툴을 포함한 생성형 AI 운영 역량의 다음 대세다.

클라우드 네이티브 관찰가능성 플랫폼 오픈옵저브(OpenObserve)의 최고매출책임자인 샤니 쇼헴은 “AI는 많은 컨텍스트를 소수의 명확한 문장으로 정리할 수 있어 대규모 사고 시 유용하다. 즉, 사고가 발생할 때 SRE에게 필요한 것을 제공한다. 아키텍처의 복잡성과 다양한 툴 환경으로 인해 이런 작업은 인간보다 AI가 처리하기에 더 유리하다. 다만 자율적인 해결까지는 아직 갈 길이 멀다”고 말했다.

AI가 직원과 번아웃에 미치는 영향

시스템의 가동, 보안, 성능을 유지해야 한다는 압박은 365일 24시간 스트레스의 원인이 된다. 인터넷 성능 모니터링 플랫폼 캐치포인트(Catchpoint)의 2025 SRE 보고서에 따르면 SRE의 36%는 사고 중에 자주 또는 항상 큰 스트레스를 받는다고 응답했다. 또한 28%는 사고가 해결된 이후까지 그 스트레스가 지속된다고 답했다. AI 기능은 SRE의 번아웃을 방지하고 스트레스를 줄이는 데 도움을 주는 게임 체인저가 될 수 있다.

AI 기반 관찰가능성 플랫폼 그라운드커버(Groundcover)의 창립 엔지니어이자 CTO인 노암 레비는 “AI는 새벽 3시에 어떤 인간 엔지니어보다 훨씬 더 많은 사고 컨텍스트를 수집해서 트레이스, 로그, 메트릭, 배포, 구성 변경, 알림, 소유권 및 최근 프로덕션 동작 전반에 걸쳐 추론해 RCA를 개선할 수 있다. 완전한 RCA를 시도하는 것 외에, AI는 실질적으로 중요한 신호를 추출하고 원인과 결과의 명확한 타임라인을 재구성하고 엔지니어가 연관성과 유력한 인과관계를 구분하도록 돕는다는 측면에서 즉각적인 가치도 제공한다. 또한 수정이 배포되면 에이전트는 수정 전후의 동작을 비교해 수정의 효과를 검증할 수도 있다. 다만 이를 위해서는 상호연관된 풍부한 프로덕션 신호에 대한 폭넓은 접근성, 그리고 도입이나 실험을 저해하지 않는 비용 모델이 필요하다”고 말했다.

사고를 더 신속하게, 스트레스를 덜 받으면서 해결할 수 있게 해주는 것이 전부가 아니다. AI는 시간을 절약해 SRE가 사전 예방 작업에 집중할 수 있게 해주고 신입 개발자가 SRE 역할로 성장하기 위한 경력 진로를 만들어준다. 포스트그레SQL AI 솔루션 EDB 포스트그레스 AI(EDB Postgres AI)의 CTO 콰이스 타라키는 “AI는 반복적인 작업을 자동화해서 힘든 노동을 줄이는 동시에 분산 시스템 전반에 걸쳐 신호의 상관관계를 찾는 코파일럿을 통해 사고 해결 속도를 높여 SRE가 카오스 엔지니어링, 장애 분석과 같은 회복탄력성 전략에 더 집중할 수 있게 해준다”고 덧붙였다.

AI는 특히 더 많은 미션 크리티컬 기술과 AI 역량을 추구하는 기업에서 장기적으로 지속되는 운영상의 영향을 미칠 수 있다. SRE를 위한 AI의 두 가지 장기적 이점은 사고 대응에 필요한 브릿지 콜 횟수와 근본 원인 분석을 조율하는 회의에 필요한 엔지니어의 수를 줄여준다는 점이다.

AI 기반 사고 대응 자동화 업체 리졸브 AI(Resolve AI)의 창업자이자 CEO 스피로스 산토스는 “문제가 발생하면 SRE를 가이드하는 AI가 전체 분석을 수행하고 근본 원인을 찾고 교정 작업을 수행할 수 있다. 또한 AI는 많은 에스컬레이션을 방지하는 데 도움이 되며 에스컬레이션이 필요한 경우에는 네트워크, 인프라 및 애플리케이션 팀에서 적절한 대상을 파악한다. SRE를 위한 AI는 운영 인텔리전스를 중앙화하고 조직 내 암묵지(부족 지식)을 활용하고 초보 개발자를 이끌 수 있다”고 말했다.

AI 에이전트 신뢰성

AI 역량은 SRE가 시스템 신뢰성을 개선하는 데 긍정적인 역할을 해왔지만 AI 코드 생성기, 바이브 코딩, 스펙 주도 개발의 성장은 SRE의 업무 부담을 가중시키는 작용도 한다. 한 연구에 따르면 전 세계 모든 코드의 41%가 현재 AI로 생성되고 있으며, 가트너는 2028년까지 새로운 엔터프라이즈 프로덕션 소프트웨어의 40%가 바이브 코딩 기법을 사용해 작성될 것으로 예측했다.

그러나 코딩 속도의 가속화는 SRE의 부담을 키우는 방향으로도 작용한다. AI 코드 리뷰 플랫폼 코드래빗(CodeRabbit)에 따르면 AI 풀 요청에는 치명적인 문제가 1.4배, 중요한 문제가 1.7배 더 많기 때문이다. AI 기반 엔터프라이즈 엔지니어링 지원 업체 뉴버드(NeuBird AI) AI의 공동 창업자이자 CTO인 비노드 자야라만은 “AI 보조 개발로 인해 코드가 전례 없는 속도로 프로덕션에 도달하면서 공격 노출 범위, 엣지 케이스, 오류율이 통적인 SRE 관행이 감당하기 어려운 속도로 늘어나고 있다. 프로덕션에서 무엇이 잘못됐는지 파악하는 속도보다 훨씬 더 빠르게 배포가 이뤄진다. SRE가 이 문제를 해결하기 위해서는 연관된 여러 트레이스와 서비스 종속성, 이상 타임라인을 포함한 정확한 진단 컨텍스트를 캡처해서 이를 엔지니어와 AI 코딩 툴을 위한 실행 가능한 입력으로 구조화할 수 있는 엔터프라이즈 에이전트가 필요하다”고 말했다.

프로덕션에 배포되는 AI 에이전트 수의 증가도 새로운 문제를 만들어낸다. AI 에이전트는 단순한 코드가 아니며, 그만큼 여러 장애 지점이 있다. AI 에이전트는 언어 모델을 사용해 구축되고 컨텍스트를 위해 비공개 소스에 연결되며 복잡한 워크플로우를 지원하기 위해 모델 컨텍스트 프로토콜 서버와 통합된다. 변경은 배포 이벤트가 아니라 지속적으로 일어나는 과정이므로 SRE로서는 성능과 정확도 저하의 원인을 찾기가 결코 쉽지 않다.

AI 및 양자 보안 솔루션 샌드박스AQ(SandboxAQ)의 제품 담당 부사장인 모하메드 아불-마그드는 “전통적인 SRE는 재현 가능한 방식으로 실패하는 시스템에 맞춰 정립됐지만 에이전트의 장애는 그 양상이 다르다. 또한 모델 제공업체가 업데이트를 푸시할 때 에이전트에서는 드리프트가 발생하고, 동작 변화가 겉으로 드러나지 않으며, 변경 전후를 대조할 기준도 없다. 대다수 기업은 현재 실행 중인 에이전트의 수, 에이전트가 액세스할 수 있는 대상, 여전히 원래 설계된 목적에 맞게 작동하는지 여부와 같은 기본적인 질문에도 답을 하지 못한다”고 지적했다.

AI 기반 운영 지식 관리 플랫폼 시루스(Ciroos)의 공동 창업자이자 CEO인 로낙 드사이는 “선임 엔지니어가 퇴사할 때마다 오랜 기간 학습된 장애 패턴에 대한 지식도 함께 사라지기 때문에, 다음 번 장애가 발생하면 원점에서 다시 시작해야 한다. AI를 사용해 운영 지식을 축적하면 이야기가 달라진다. 시스템이 사고를 해결할 때마다 AI가 이를 학습한다”고 말했다.

SRE는 AI 에이전트의 비기능 요건 검수 기준, 관찰가능성 관행, 릴리즈 준비 완료 기준에 대한 표준 정립 등 새로운 모범 사례를 구축하는 데 있어 주도적인 역할을 해야 한다. SRE는 이에 맞춰 서비스 수준 목표(SLO)를 업데이트하고 프로덕션 내 AI 에이전트에 대한 오류 허용 예산(error budget)을 정의해야 한다.

프린서플 파이낸셜 그룹(Principal Financial Group)의 엔터프라이즈 비즈니스 솔루션 부문 부사장 겸 CIO인 라이언 다우닝은 “표준 SLO와 오류 예산은 가이드라인을 제시한다. AI는 이런 목표를 기준으로 텔레메트리 해석을 도와 노이즈를 줄임으로써 엔지니어가 실제 문제에 더 빠르게 도달하고 고객이 영향을 받기 전에 교정 작업의 일부를 자동화할 수 있게 해준다”고 말했다.

SRE의 비즈니스 영향력 증대

사이트 신뢰성 엔지니어링에서 더 극적인 변화는 바로 비즈니스 범위의 발전이다. IT 리더는 가동 시간, 성능, 문제 해결에 그치지 않고 각각의 영향을 이해하는 데에도 집중한다. 비즈니스 리더는 IT와 SRE가 섀도우 AI 에이전트, 새로운 에이전틱 기능의 빠른 배포가 미치는 영향을 포함해 더 넓은 범주의 문제를 식별하고 근본 원인을 파악해 교정하기를 기대하게 된다.

기업 커뮤니케이션 컴플라이언스 업체 스마시(Smarsh)의 AI 및 플랫폼 전략 담당 수석 기술자 블레이크 셔우드는 “AI 에이전트는 SRE에게 이전에는 해결할 필요가 없었던 범주의 문제를 안겨주고 있다. 구체적으로, 기술적 관점이 아닌 비즈니스 관점에서의 장애가 이에 해당된다. 전통적인 신뢰성 엔지니어링은 지연, 오류, 충돌을 중심으로 정립됐지만 이제 에이전트는 규정 준수 단계의 생략, 또는 기술적으로는 문제없어 보이지만 컨텍스트 측면에서 잘못된 결과로 인해 실패한다. 대다수 SRE 팀은 아직 이 변화에 맞춰 준비되지 않았다”고 말했다.

결국 관건은 AI로 증강된 툴을 갖춘 SRE가 새로운 AI 비즈니스 기능을 배포하는 속도, 복잡성, 그리고 비즈니스 긴급성을 따라잡을 수 있는지 여부다.
dl-itworldkorea@foundryco.com ...