반응형 AWS12 [AWS] SageMaker Async Endpoint AutoScaling Aws SageMaker 비동기(async) 엔드포인트 autoscaling에 대한 방법에 대해 간단하게 정리해보자. 일단 비동기 엔드포인트는 실시간 엔드포인트와 달리 인스턴스 수를 0개까지 줄일 수 있다. 비동기 엔드포인트 내부적으로 Queue가 있어 요청이 오면 Queue에 쌓이고 인스턴스 수를 scale-out 시킨다. 때문에 일반적인 scale-out, scale-in 정책 말고도 인스턴스 수가 0개 일 때 요청이 온 경우 scale-out시켜주는 정책이 따로 필요하다. SageMaker 콘솔에서 만들 수 있는 부분에는 한계가 있다. CLI를 사용하여 만들면 더욱 세세하게 설정할 수 있어서 처음에는 CLI로 작업을 하였는데, 엔드포인트가 여러 개 늘어나면 일일이 하기 귀찮을 것 같아서 AWS SD.. 2023. 7. 17. [AWS] RDS에서 Lambda 함수 호출 방법 * MySQL 8.0 호환 클러스터용 Aurora Mysql 3.01 버전 사용. 1. Aurora에 Lambda 엑세스 권한 부여 a. Lambda 리소스 엑세스를 위한 IAM 정책 새로 생성 또는 AWS 관리형 정책 아래 처럼 IAM정책을 직접 만들거나 기본 AWS 관리형 정책 (AWSLambdaRole)을 사용하여 엑세스를 부여할 수 있다. { "Version": "2012-10-17", "Statement": [ { "Sid": "AllowAuroraToExampleFunction", "Effect": "Allow", "Action": "lambda:InvokeFunction", "Resource": "arn:aws:lambda:::function:" } ] } b. IAM 역할 생성 및 정책 적.. 2022. 7. 4. [AWS RDS] Proxy Endpoint 설정 AWS 콘솔의 RDS로 가면 위와 같이 메뉴가 보인다. 프록시 엔드포인트 설정을 하려면 우선 데이터베이스에 가서 rds인스턴스를 하나 만들어야한다. 그 다음 프록시 탭으로가서 프록시 생성을 해주면 되는데 연결할 데이터베이스에 만든 인스턴스를 넣고 Secret Manager를 생성하여 연결하면 된다. Secret Manager는 프록시 엔드포인트를 사용하여 rds에 연결할 때 사용하게 되는 유저네임과 비밀번호이다. 프록시 리더 엔드포인트를 추가하려면 체크하여 추가하면 된다. 보안그룹은 rds 인스턴스 보안그룹과 동일하게 한다. 이렇게 생성하여 나오는 엔드포인트 주소로 rds 연결을 하면 되는데 하나 더 해야될 것은 rds와 프록시가 동일한 보안그룹일 경우 vpc보안그룹에 들어가서 인바운드 규칙을 추가해야되.. 2022. 6. 9. 이전 1 2 다음 반응형
