Amazon Bedrock

Amazon Bedrock는 AWS에서 제공하는 완전 관리형 서비스로, 다양한 고성능 파운데이션 모델(FMs)을 통해 생성적 인공지능(Generative AI) 애플리케이션을 빠르게 구축하고 확장할 수 있게 해줍니다. 이 서비스는 데이터의 개인정보 보호와 보안을 보장하는 기능도 제공합니다. 

Amazon Bedrock의 주요 특징

1. 다양한 파운데이션 모델 제공:
   • Amazon Bedrock는 AI21 Labs, Anthropic, Cohere, Meta 등 여러 주요 AI 회사에서 제공하는 다양한 고성능 파운데이션 모델에 접근할 수 있게 합니다.
   • 이 모델들은 단일 API를 통해 사용할 수 있어, 모델 변경 시 코드 수정이 최소화됩니다.
2. 모델 맞춤화 및 RAG:
   • Bedrock는 사용자의 데이터를 사용하여 모델을 개인화할 수 있는 기능을 제공합니다. 이는 모델의 성능을 향상시키고, 특정 작업에 맞게 최적화할 수 있게 합니다
   • Retrieval Augmented Generation (RAG) 기술을 통해 모델의 응답을 최신 데이터로 강화할 수 있습니다
3. 보안 및 개인정보 보호:
   • Amazon Bedrock는 데이터를 전송 및 저장 시 암호화하고, AWS Key Management Service (KMS)를 사용하여 키 관리를 지원합니다.
   • AWS IAM을 통해 접근 제어를 강화하고, AWS PrivateLink를 사용하여 인터넷 트래픽 없이 프라이빗 연결을 설정할 수 있습니다.
   • GDPR, HIPAA 등 다양한 규제 기준에 적합하며, FedRAMP High 인증을 받은 서비스입니다.
4. 서버리스 및 확장성:
   • Bedrock는 서버리스로, 인프라 관리 없이 빠르게 시작할 수 있으며, AWS의 확장성 덕분에 대규모 요청을 효율적으로 처리할 수 있습니다.
5. 사용자 정의 모델 가져오기:
   • 최근 추가된 기능으로, 사용자는 Amazon SageMaker나 다른 도구에서 맞춤화한 모델을 Bedrock에 가져올 수 있습니다.

Amazon Bedrock의 장점

1. 쉬운 접근성: 고급 AI 모델에 쉽게 접근할 수 있어, 전문적인 ML 지식 없이도 AI 애플리케이션을 구축할 수 있습니다.
2. 비용 효율성: 사전 학습된 모델을 사용하여, 모델을 처음부터 학습하는 비용과 시간을 절약할 수 있습니다
3. 보안 및 개인정보 보호: 강력한 보안 기능과 개인정보 보호를 통해 기업의 데이터를 안전하게 관리할 수 있습니다.

Amazon Bedrock와 다른 AI 플랫폼의 차이점

1. 다양한 모델 제공:
   • Amazon Bedrock는 여러 AI 회사에서 제공하는 다양한 모델에 접근할 수 있지만, Azure OpenAI는 주로 OpenAI의 GPT 모델에 집중되어 있습니다.
2. 보안 및 개인정보 보호:
   • Bedrock는 AWS의 보안 기능과 통합되어 강력한 보안과 개인정보 보호를 제공합니다. 반면, Azure OpenAI는 보안 수준이 다를 수 있습니다.
3. 서버리스 및 확장성:
   • Bedrock는 서버리스로 인프라 관리가 필요 없으며, AWS의 확장성 덕분에 대규모 요청을 처리할 수 있습니다.

 

 

Retrieval Augmented Generation (RAG)은 생성적 인공지능(Generative AI) 모델의 출력을 최적화하는 기술로, 대규모 언어 모델(LLM)이 외부의 신뢰할 수 있는 지식베이스를 참조하여 응답을 생성하는 방식입니다. 이 기술은 LLM의 한계를 보완하여 최신 정보를 반영하고, 도메인 특정 데이터를 활용하여 더 정확하고 관련 있는 응답을 제공합니다.

RAG의 주요 특징

1. 외부 데이터 활용:
   • RAG는 LLM의 기본 학습 데이터 외에도 외부 데이터베이스나 문서 저장소에서 정보를 검색하여 이를 모델의 입력으로 사용합니다
2. 정확성 향상:
   • LLM은 일반적으로 고정된 학습 데이터에 의존하지만, RAG는 최신 정보를 동적으로 검색하여 모델의 응답 정확성을 높입니다.
3. 도메인 특정 데이터 통합:
   • RAG는 특정 도메인이나 조직의 내부 데이터를 활용하여 모델의 응답을 더 관련성 있게 만듭니다.
4. 비용 효율성:
   • 모델을 재학습할 필요 없이 외부 데이터를 통해 최신 정보를 반영할 수 있어 비용과 시간을 절약합니다.
5. 투명성 제공:
   • RAG는 모델이 사용한 정보 출처를 제공하여 사용자가 응답의 신뢰성을 검증할 수 있게 합니다.

RAG의 작동 방식

1. 인덱싱:
   • 외부 데이터를 벡터 형태로 변환하여 벡터 데이터베이스에 저장합니다.
2. 검색:
   • 사용자 질의를 벡터로 변환하고, 이를 통해 관련 문서를 검색합니다.
3. 증강:
   • 검색된 정보를 사용자 입력과 함께 모델에 제공하여 응답을 생성합니다.
4. 생성:
   • 모델은 입력된 정보를 기반으로 최종 응답을 생성합니다.

RAG의 장점

1. 최신 정보 반영:
   • LLM의 고정된 학습 데이터의 한계를 극복하여 최신 정보를 반영합니다.
2. 도메인 특정 데이터 활용:
   • 조직의 내부 데이터를 활용하여 모델의 응답을 더 관련성 있게 만듭니다.
3. 비용 절감:
   • 모델 재학습 없이 외부 데이터를 통해 최신 정보를 반영할 수 있어 비용 효율적입니다

 

 

 

서비스 할당량 (Service Quotas)

서비스 할당량은 AWS 계정에서 사용할 수 있는 서비스 리소스의 최대 수를 의미합니다. 이는 AWS 계정의 리소스 사용을 제한하는 역할을 하며, 각 서비스마다 다른 할당량이 설정될 수 있습니다.

Amazon Bedrock의 할당량

Amazon Bedrock는 계정 수준에서 여러 가지 할당량을 구현하고 있습니다. 이는 Amazon Bedrock를 사용할 때 사용할 수 있는 리소스의 최대 수를 정의합니다. Amazon Bedrock의 할당량에 대한 자세한 정보는 관련 문서를 참조하면 됩니다.

주요 내용 요약

• 서비스 할당량: AWS 계정에서 사용할 수 있는 리소스의 최대 수.
• Amazon Bedrock의 할당량: 계정 수준에서 설정된 리소스 사용 제한.
• 참고 문서: Amazon Bedrock의 할당량에 대한 자세한 정보는 관련 문서에서 확인 가능합니다.

 

Amazon Bedrock는 AWS에서 제공하는 완전 관리형 서비스로, 개발자가 기초 모델(FMs)과 이를 사용한 AI 애플리케이션을 구축하고 확장할 수 있도록 지원합니다. Amazon Bedrock는 VPC 내에 직접 구성되지 않지만, AWS PrivateLink를 통해 VPC에서 안전하게 접근할 수 있습니다. 또한, 기업 네트워크는 VPC를 통해 Amazon Bedrock와 연결할 수 있습니다.

Amazon Bedrock와 기업 네트워크 연결 방법

1. AWS PrivateLink 사용:
   • AWS PrivateLink를 통해 VPC와 Amazon Bedrock 간의 사설 연결을 설정합니다. 이 방법은 VPC 내의 인스턴스가 공인 IP 주소 없이 Amazon Bedrock에 접근할 수 있도록 합니다
   • VPC 엔드포인트를 생성하여 Amazon Bedrock와의 사설 연결을 구축합니다.
2. VPC를 통한 연결:
   • 기업 네트워크는 VPC를 통해 Amazon Bedrock와 연결됩니다. 이 과정에서 AWS Direct Connect와 같은 서비스를 사용하여 온프레미스 네트워크와 AWS 간의 연결을 설정할 수 있습니다.
   • VPC 엔드포인트를 통해 Amazon Bedrock에 대한 사설 접근을 제공하여 데이터가 인터넷에 노출되지 않도록 합니다.

주요 이점

• 보안 강화: AWS PrivateLink를 사용하면 데이터가 인터넷을 통해 전송되지 않아 보안이 향상됩니다.
• 규제 준수: 민감한 데이터를 인터넷에 노출하지 않아 HIPAA, PCI 등 규제 요구 사항을 충족할 수 있습니다
• 네트워크 구조 간소화: AWS 서비스 간의 사설 연결을 통해 네트워크 구조가 간소화되고 복잡성이 줄어듭니다

 

 

Amazon Bedrock 플레이그라운드는 AWS Management Console을 통해 접근할 수 있으며, 텍스트, 채팅, 이미지 플레이그라운드에서 다양한 기능을 사용할 수 있습니다. 다음은 각 플레이그라운드와의 상호작용 방법에 대한 설명입니다.

1. 텍스트 플레이그라운드

• 기초 모델(FM) 선택: 사용할 기초 모델을 선택합니다.
• 프롬프트 입력: 텍스트 필드에 프롬프트를 입력합니다.
• 실행 및 응답 생성: 입력한 프롬프트를 실행하여 모델이 생성한 응답을 확인합니다.

2. 채팅 플레이그라운드

• 기초 모델 선택: 상호작용할 기초 모델을 선택합니다.
• 대화형 인터페이스 사용: 대화형 인터페이스를 통해 모델과 대화합니다.
• 질문 및 응답: 모델에게 질문을 하고, 모델이 생성한 응답을 확인합니다.

3. 이미지 플레이그라운드

• 기초 모델 선택: Amazon Titan Image Generator 모델 또는 Stable Diffusion FM 중 하나를 선택합니다.
• 텍스트 입력: 텍스트 필드에 이미지 생성을 위한 텍스트 프롬프트를 입력합니다.
• 이미지 생성: 입력한 텍스트 프롬프트를 실행하여 모델이 생성한 이미지를 확인합니다.

주요 기능

• 다양한 모델 지원: 여러 기초 모델을 선택하여 다양한 AI 기능을 테스트할 수 있습니다.
• 대화형 인터페이스: 채팅 플레이그라운드는 사용자와 모델 간의 자연스러운 대화를 지원합니다.
• 텍스트-이미지 변환: 이미지 플레이그라운드는 텍스트 프롬프트를 이미지로 변환하는 기능을 제공합니다.