생성형 AI와 GPT4의 출시는 2023년 기술업계에 가장 큰 흥분과 두려움을 불러일으켰다고 해도 과언이 아닐
것입니다. 응용 가능한 분야와 사용 편의성을 고려하면 당연한 반응이죠. 심지어 어린 학생들도 사용하고 있습니다!
주요 기술 컨퍼런스와 출판물, 회사 회의실,
제품 및 엔지니어링 팀원들의 대화에서도, 급기야는 식구들과의 저녁 식사에서도 주된 화제로 거론되고 있습니다. 뭐, 저희 집만
그런 걸 수도 있고요. 어쨌든 이렇게 많은 관심과 우려를 받고 있으니, 내년 이맘때쯤 사업계 전반의 모든 팀에 효율성 향상에 대한
질문이 던져지더라도 놀랄 사람은 없을 겁니다.
그러면 여기에 어떻게 대비할 수 있을까요? Sumo Logic은 지금까지 이러한 자문을 출발점으로 삼아
2024년은 물론 그 이후에도 고객을 위한 가치를 구축하고 제공하고자 합니다.
AI 환각: 기능인가? 버그인가?
최근 진행된 제품 회의에서 저희 데이터 과학자들 중 한 명은 Sumo Logic의 쿼리가 이런 식으로 작동할 수 있을지 전혀 몰랐다고
말했습니다. 물론 우리는 생성형 AI의 어떤 부분이 이 정도의 창의성까지 실현하는지 질문해 볼 필요가 있습니다. 저는 이 기술이
환각을 불러일으키고 일반적 범주를 벗어났다고 여겨지는 일을 시도할 수 있기 때문이라고 봅니다. 환각을 단순히 고쳐야 할 버그 정도로
취급해 버리면 창의성과 인사이트, 더 나아가 혁신까지 끌어낼 수도 있는 기술의 역량을 의도치 않게
꺾을 수 있습니다.
AI 환각에 대한 대부분의 이야기는 시장에 공포를 일으키지만, 제가 보기에 이 문제의 진짜 원인은
환각 자체가 아니라 어조에 있습니다. ChatGPT의 가장 큰 문제점은 답을 너무 확정하듯이 내놓는다는 것입니다.
일반적으로 아이데이션과 브레인스토밍에서는 창의력을 발휘하고 틀릴 수도 있다는 생각으로 여유를 가져야 합니다.
AI라는 브레인스토밍 파트너를 진실의 결정권자(arbiter of truth)로 여기기보다 창의력 증진을 위한 파트너로 받아들인다면
아무리 어려운 문제가 새롭게 등장하더라도 환각을 비롯한 이 기술만의 타고난 강점에 힘입어 함께 풀어 나가며
고객을 지원할 수 있을 것입니다.
기록 시스템 vs 인사이트 시스템
생성형 AI가 고객에게 확정적인 답을 줄 수 없다는 걸 인정한다면, 어떤 기술을 추가적으로
활용해야만 할까요? 바로 여기에서 기록 시스템이 매우 중요하다고 할 수 있습니다.
기록 시스템은 권위 있는 데이터 소스, 사실 또는 정보라 할 수 있습니다. 로그, 데이터베이스, 서비스 맵, 통합, 부족 지식(tribal knowledge) 등 오늘날의 일반적인 IT
시스템을 구동하는 원동력이죠. 이 경우에
시스템은 연결할 수 있는 데이터가 많을수록 더 강력해질 수 있습니다.
또한 권위 있는 정보, 즉 “신뢰할 수 있는 정보원”이므로 분명 100% 정확할 것입니다. 하지만 이 시스템은
실시간으로 관리하고 활용하기가 어려우며, 따라서 기록 시스템의 자동 생성과 자동 검색이 매우
중요해집니다.
“신뢰할 수 있는 단일 정보원”이라는 말은 오랫동안 사용되어 왔지만 개발자, 보안 및 운영
팀이 보기엔 훨씬 더 모호하게 들릴 때가 많습니다. 로그는 바로 그러한 이유로 가장 세밀한 수준의 정보원으로서
중요성이 대두되었습니다. 로그는 애플리케이션과 인프라에서 자연스럽게 자동 생성되는 유일한 아티팩트로서
기록 시스템의 확실한 기반이 되지요.
그리고 한편으로 제가 보기에 생성형 AI는 이전에 찾지 못했던 인사이트를 기술에 힘입어 추가로 확보할 수 있다는 점에서 일종의
“인사이트 시스템” 같습니다.
일례로 저는 예전에 맡았던 직책에서 인턴들과 직원들로 가득한 회의실에 참석해 60분간 “혁신”에 대한 프레젠테이션을
해야 했습니다. 무엇을 발표해야 할지는 전혀 생각도 못 하고 그저 다른 사람들이 하는 대로 했죠. Google에서 “혁신”을
검색어로 입력한 후에 산처럼 쌓인 웹사이트와 사진, 동영상을 스크롤하며 둘러봤습니다. 그렇게 찾다 보니
F1 레이싱 휠을 장착한 거북이 사진이 나왔고, 이걸 프레젠테이션에 사용했습니다.
제가 “F1 레이싱 휠을 장착한 거북이”를 직접 검색한 건 아니지만 그 이미지는 업무에 영감이 되었고, 이렇게 Google 검색이
생각에 영감을 주었듯이 AI도 인사이트 시스템을 사용하여 단순한 검색을 뛰어넘는 사고 파트너십을 선사할 수 있습니다.
기록 시스템과 인사이트 시스템을 결합한다면 분명 고객마다 각자의 데이터에 대해 확실한 답을 줄 수 있는 새로운 솔루션이 만들어질
것입니다.
그렇게 되면 개발자와 운영 및 보안 엔지니어에게는 이 일이 어떤 의미가 있을까요?
지금은 기술과 소프트웨어 분야에 큰 기대와 위험이 공존하는 시기입니다. Microsoft와 GitHub 같은 곳에서
“코파일럿”, 즉 부조종사라는 네이밍 규칙을 사용하는 것도 매우 적절해 보이는데,
기술이 사용자를 대체하기보다 업무를 더 잘 수행하도록 돕는다는 의미를 전달하기 때문이죠.
저는 기록 시스템과 인사이트 시스템 간의 중요 연결 고리가 강화됨에 따라 테스트, 옵저버빌리티, 보안과 같은 영역에서도
비슷한 코파일럿 혁신이 나타날 것으로 예상합니다. 이는 결국 온보딩의 가속화로 이어질 수 있는데,
“인프라의 비용과 보안을 개선하려면 어떻게 해야 할까?”처럼 시스템과 관련해서 더 자연스럽고 심도 있는 질문을 하기가 비교적 쉽다면
특히 더 빨라질 것입니다. 중복되는 작업을 자동화하는 데에도 도움이 될 수 있으며, 보고 작업에서 그 유용성이 특히
두드러질 겁니다.
물론 AI는 잠재적 보안 문제와 법적 문제를 야기하므로 위험성도 명확해 보입니다. 최근 제가 참석한 혁신 라운드테이블에서(이번에는 F1 거북이를 뺐죠)
경영진이 가장 우려한 부분은 AI의 법적 파급력과 관련된 문제였습니다.
LLM과 FM을 훈련하는 방식에 따라 법적 문제가 발생할 소지가 있고, 다른 사람의 IP로 모델을 훈련하는 문제에선 그 가능성이 더욱
분명해집니다. 이 문제는 IP와 의도적인 정보 또는 코드 오염을 비롯해 전체 공급망에 대한
의구심을 불러일으킵니다. AI가 소셜 엔지니어링이나 악성 코드 또는 멀웨어 작성에 사용될 때의
“직접적인 위협”은 말할 것도 없죠.
긍정적인 측면을 극대화하고 위험을 최소화하려면 개발자, 운영 담당자, 보안 엔지니어들을 이끄는 모든 책임자가
지금부터 기본적인 모범 사례를 수립해야 합니다.
- 코드의 어느 부분에 AI를 사용하거나 그러지 말아야 할까요? 핵심 IP에서 코드 작성을 돕도록 생성형 AI를 사용해야
할까요? 가장 중요하게 해야 할 일은 정책을 마련하는 것입니다. 코드는 제품을 통해 빠르게 확산될 수 있으며,
따라서 그중 얼마나 되는 부분이 AI의 도움을 받았는지 가시성을 확보해야 할 수 있습니다. - AI의 이점을 가장 많이 누릴 수 있는 곳은 어디인가요? 인사이트 시스템과 기록 시스템을 결합하면 가장 큰 이점을
누릴 만한 특정 영역을 선택하고 해당 코드 베이스만으로 성과를 향상할 수 있도록 LLM을 훈련해 보세요. - 향후의 비즈니스 성공을 위해 기록 시스템과 인사이트 시스템을 조정할 수 있도록 계획해 보세요. 이러한
프로세스와 시스템은 상호 연결이 아직 초기 단계에 머물러 있으며, 조직이 이후의 기술적 도약을 하기 위해선
그 결합의 잠재력을 끌어내는 것이 매우 중요할 것입니다.
Sumo Logic은 생성형 AI와 같은 기술을 받아들이게 된 것을 매우 기쁘게 생각합니다. 로그가 팀 협업을 위한 공통의 언어이자
기록 시스템으로 쓰일 수 있다는 사실을 깨닫는 DevSecOps 팀이 점점 늘고 있으며, 여기에 인사이트
시스템을 더하면 그 영향력은 기하급수적으로 커질 것입니다. 저희는 확장성이 업계 최고 수준인 로그 분석
플랫폼을 이미 보유하고 있으며, 이를 통해 사일로를 허물고 협업을 증진할 기반을 다지고 있습니다.
