쉽고 경제적인 RAG 구축을 위한 Knowledge Bases for Amazon Bedrock 안내서

LLM이 질문에 대한 답변을 생성하는 과정에서 사실과는 다른 환각 현상이 발생할 수 있습니다. 환각을 최소화하기 위해 RAG(Retrieval Augmented Generation)라는 방법이 Meta에 의해 도입되었는데요. LLM이 입력을 받으면 특정 소스에서 관련한 문서를 찾아 context에 추가하고, 해당 정보를 토대로 최종 출력을 반환하게 되는 구조입니다. RAG를 통해서 Fine-Tuning을 하지 않고도 제한적인 정보를 가지고 있는 LLM을 보다 정확하고 커스텀하게 개선할 수 있게 되었습니다.

이번 포스팅에서는 Knowledge bases의 각 옵션에 따른 차이와 구성 방법에 대해 공유하려 합니다.

Knowledge bases for Amazon Bedrock의 벡터 데이터베이스

CREATE EXTENSION IF NOT EXISTS vector;

SELECT extversion FROM pg_extension WHERE extname='vector';​​

 CREATE SCHEMA bedrock_integration;

CREATE ROLE bedrock_user WITH PASSWORD 'yourpassword' LOGIN;

GRANT ALL ON SCHEMA bedrock_integration to bedrock_user;

CREATE TABLE bedrock_integration.bedrock_kb (id uuid PRIMARY KEY, embedding vector(1536), chunks text, metadata json);

 

CREATE ALL ON bedrock_integration.bedrock_kb TO bedrock_user;

 

CREATE INDEX on bedrock_integration.bedrock_kb USING hnsw (embedding vector_cosine_ops);​​

​

​