[AWS] - AWS Summit 2024 Seoul 방문 후기

1. 입장

강남 코엑스 사전예매한 사람을 대상으로 순차적으로 입장 목걸이가 분배된다. 점심 도시락을 무료로 먹을 수 있는 종이 쿠폰을 제공한다. 종이 쿠폰은 점심 도시락과 교환하기 위해 꼭 필요하다. 더 맛있는 밥을 먹고싶으면 코엑스 주변 식당으로 가도된다.

 

2. 기조 연설

9시 30분 ~ 10시 40분 동안 기조연설을 진행하는데 요번 기조 연설은 주로 AI 관련 내용을 담고 있다. 최근에 새로 출시한 AWS Bedrock과 AWS Q에 중심적으로 설명했다. 생성형 AI가 관심도가 높다보니 주로 설명한 것 같다.

 

3. 강연

각 강연들은 보통 30분, 40분으로 구성된다. 또한 강연 사이사이에 있는 자투리 시간은 30분으로 그 시간동안 다른 강연을 보기 위해 미리 줄을 서거나 다른 기업체 부스를 방문하여 이런저런 체험을 할 수 있다. 강연은 대략 5개 정도를 보았는데 강연을 들으면서 파악한 간략한 내용은 다음과 같다.

 

1. AWS와 생성형 AI로 비즈니스 혁신하기

어플리케이션에 적합한 모델을 선택하면서 필요한 과정을 빠르게 진행하고 자신의 데이터를 공개시키지 않고 활용하는 방안을 고려하고 있다. 이를 보완하기 위해 AWS Bedrock 서비스를 최근에 출시하였으며 생성형 AI를 구축하고 규모를 쉽게 규모를 조정할 수 있는 서비스를 제공하고 있다. 추가로 나온 Bedrock Agent는 회사 시스템 및 데이터 소스 전반에서 다단계 작업을 실행하도록 하는 서비스다. Bedrock과 Bedrock Agent는 고객 데이터를 기본 모델 훈련에 사용하지 않으며 모든 데이터는 전송과 저장할 때 암호화되어 저장한다. 또한 매번 새로운 보안 기능을 추가하고 있다.

마지막으로 책임있는 인공 지능을 만들기 위해 모델이 반활할 수 있는 정보와 반환할 수 없는 정보를 AI 정책으로 필터링 하기 쉽게 Bedrock GuardRail을 출시하였으며 유해 콘텐츠로부터 필터링을 쉽게 구성할 수 있다.

 

2. GS에너지의 AI 전략의 핵심: GenOps 플랫폼

GS의 Algo Lab의 MLOps는 비용 걱정을 덜 하고 사용자 피드백을 빠르게 받기 위하고 작은 팀이여도 체계를 가진 규칙을 가지고 운영 비용을 절약할 수 있도록 하는 것을 목표로 하였다고 한다. 이러한 노하우를 확장시켜 GenOPS로 확장시켰는데 사용자가 무언가를 질문했을 때 어플리케이션이 안정적으로 답변할 수 있도록 만들고 질문과 데이터 사이의 스트리밍을 안정적으로 하였다. 웹소켓 등의 서비스를 이용하다 SQS를 튜닝하여 안정적인 서비스로 나아가게 되었다. GenOPS 전략은 비용 최적화와 사용자 친화적 플랫폼을 기본 목표로 삼고 있으며 서버리스 중심으로 자동화와 비용 최적화를 이루어냈다.

 

3. 당신의 AI는 안전하십니까?

새로운 기능이 나올 때 마다 새로운 취약점이 등장한다. 데이터를 수집할 때 데이터의 출처와 해당 데이터의 평판, 안전하게 전송되는지 확인해야 하며 데이터를 처리할 때 저장소의 액세스 관리, 라이센스 관리 또한 필요하다. 이를 통해 잠재적인 소프트웨어 취약점을 보완해 나갈 수 있다. 일반적으로 프로그래밍 코드를 작성하는 방법과 비슷하게 AI 데이터도 보안하는 방법이 비슷한다. 예를 들어 쿼리 횟수를 제한 하는 등 비슷한 점이 많다.

 

4. 센드버드의 생성형 AI 기반 글로벌 Chatbot 서비스

센드버드 챗봇은 지능적으로 이해하고 반응하는 나만의 생성형 AI 챗봇을 만들 수 있는 서비스이다. 온라인 서비스를 운영하면서 고객 서비스, 판매, 마케팅, 운영 등 여러개의 업무를 처리해야 하는 경우가 발생하는데 이러한 다중 작업을 센드버드 챗봇으로 간편하게 처리할 수 있다. 이러한 챗봇을 운영하는데 어려움이 존재하는데 안정성, 정보보호, 통합, 맞춤설정, 확장성, 품질 등 여러가지의 어려움과 고려 요인이 발생한다. 이 중에서 개인적으로 생각하는 가장 어려운 부분은 바로 맞춤 설정인데 센드버드 챗봇은 AWS Bedrock Guardrails를 통해 특정 주제를 차단하도록 설정할 수 있다. 책임있는 AI 정책을 바탕으로 사용자를 보호하기 위해 탄생한 서비스로 사용자와 생성형 AI간의 관련없는 주제를 차단할 수 있다. 차단 주제는 자연어를 사용하여 정의하며 사용자의 입력 및 FM의 응답을 모니터링하여 특정 주제 차단 기능을 제공한다.

 

5. 생성형 AI 시대의 고객 데이터 플랫폼 구축 전략

고객의 데이터를 보다 효과적으로 분석하고 활용하여 고객의 업무 생산성 혁신에 기여하고자 하는 플랫폼 구축 전략을 최근에 구축하였다고 한다. 각각의 고객에 맞는 데이터를 수집 및 활용하여 고객 경험 개선에 몰두하고자 있으며 마케팅 효과를 극대화하는 방안을 이번 강연에서 설명하였다.

 

6. 삼성전자의 AI 기반 SmartThings 인텔리전스 플랫폼

SmartThings는 스마트 기기를 제어하고 관리하는 IoT 플랫폼으로 수백여개의 마이크로 서비스로 구성되어 있으며 1억개 이상의 기기가 연결되어 사용되고 있다. 연결된 기기 사이에 발생하는 다양하고 수많은 이벤트를 실시간으로 처리하기 위해 AWS SageMaker를 채택하여 활용하고 있다. SageMaker를 통해 모델을 간편하게 학습시킬 수 있어 모델 개발과 운영 측면에서 효율성을 증대시켰다. 배포와 관리를 할 때는 짧은 지연 시간과 높은 처리량으로 발생 비용을 절감할 수 있었으며 모델 모니터링과 통합하여 전반적인 기능이 통합되어 효율적인 서비스를 제공할 수 있다고 한다.