OpenAI의 Batch API 문서 한국어 번역본 - 특이점이 온다 마이너 갤러리

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 부재중입니다.(hnn12) 은바다(nmra3fmz…)

개설일

2019-08-01

[정보] OpenAI의 Batch API 문서 한국어 번역본앱에서 작성

ㅇㅇ

2024.04.26 00:05:12

조회 180 추천 2 댓글 4

Batch API 소개

Batch API는 OpenAI의 API 요청을 대량으로 비동기 처리할 수 있는 기능을 제공합니다. 요청은 24시간 이내에 처리되며, 기존 API 가격의 50% 할인된 가격으로 이용할 수 있습니다.

Batch 생성하기

POST https://api.openai.com/v1/batches 엔드포인트를 통해 요청 파일을 업로드하여 새로운 Batch를 생성하고 실행할 수 있습니다. 요청 파일은 JSONL 형식이어야 하며, 목적(purpose)을 'batch'로 명시하여 업로드해야 합니다. 현재는 /v1/chat/completions 엔드포인트만 지원됩니다.

요청 시 다음 파라미터를 전달해야 합니다:

- input_file_id (필수): 요청이 담긴 업로드된 파일의 ID

- endpoint (필수): Batch의 모든 요청에 사용될 엔드포인트

- completion_window (필수): Batch 처리 시간 (현재는 24h만 지원)

- metadata (선택): Batch에 첨부할 사용자 정의 메타데이터

요청이 성공하면 생성된 Batch 객체가 반환됩니다.

Batch 조회하기

GET https://api.openai.com/v1/batches/{batch_id} 엔드포인트를 통해 특정 Batch를 조회할 수 있습니다. 요청 시 path parameter로 조회할 Batch의 ID를 전달해야 합니다. 응답으로는 해당 ID의 Batch 객체가 반환됩니다.

Batch 취소하기

POST https://api.openai.com/v1/batches/{batch_id}/cancel 엔드포인트를 통해 진행 중인 Batch를 취소할 수 있습니다. 요청 시 path parameter로 취소할 Batch의 ID를 전달해야 합니다. 응답으로는 해당 ID의 Batch 객체가 반환됩니다.

Batch 목록 조회하기

GET https://api.openai.com/v1/batches 엔드포인트를 통해 조직의 Batch 목록을 조회할 수 있습니다. 선택적으로 after와 limit 쿼리 파라미터를 사용하여 페이지네이션 할 수 있습니다. 응답으로는 페이지네이션 된 Batch 객체 목록이 반환됩니다.

Batch 객체

Batch 객체는 다음과 같은 속성을 가집니다:

- id: Batch의 고유 ID

- : 항상 "batch"로 설정

- endpoint: Batch에서 사용된 OpenAI API 엔드포인트

- errors: 오류 정보

- input_file_id: Batch의 입력 파일 ID

- completion_window: Batch 처리 시간

- status: Batch의 현재 상태

- output_file_id: 성공한 요청의 출력을 담은 파일 ID

- error_file_id: 오류가 발생한 요청의 출력을 담은 파일 ID

- created_at: Batch 생성 시각 (Unix timestamp)

- in_progress_at: Batch 처리 시작 시각 (Unix timestamp)

- expires_at: Batch 만료 시각 (Unix timestamp)

- finalizing_at: Batch 완료 처리 시작 시각 (Unix timestamp)

- completed_at: Batch 완료 시각 (Unix timestamp)

- failed_at: Batch 실패 시각 (Unix timestamp)

- expired_at: Batch 만료 시각 (Unix timestamp)

- cancelling_at: Batch 취소 시작 시각 (Unix timestamp)

- cancelled_at: Batch 취소 시각 (Unix timestamp)

- request_counts: Batch 내 요청 상태별 개수

- metadata: 사용자 정의 메타데이터 (최대 16개 key-value 쌍)

요청 입력 객체

Batch 입력 파일의 각 줄은 다음과 같은 형식의 JSON 객체여야 합니다:

- custom_id (필수): 출력과 입력을 매칭하기 위한 개발자 제공 요청 ID (Batch 내 유일해야 함)

- method (필수): 요청의 HTTP 메서드 (현재는 POST만 지원)

- url (필수): 요청에 사용될 OpenAI API의 상대 URL (현재는 /v1/chat/completions만 지원)

- body (필수): 요청의 본문

요청 출력 객체

Batch 출력 파일과 오류 파일의 각 줄은 다음과 같은 형식의 JSON 객체입니다:

- id: 요청 고유 ID

- custom_id: 출력과 입력을 매칭하기 위한 개발자 제공 요청 ID

- response: 요청 응답 객체 (성공한 경우)

- error: 요청 오류 객체 (실패한 경우)

주요 FAQ

- Batch API의 가격은 기존 API 대비 50% 할인된 가격으로 제공됩니다.

- Batch는 24시간 이내에 처리를 목표로 하며, 현재 이 기간은 변경할 수 없습니다.

- Batch에 포함할 수 있는 요청 수에는 제한이 없지만, 사용량 등급에 따른 Batch 요청 속도 제한이 적용됩니다.

- Batch가 만료되거나 취소되면, 이미 완료된 작업에 대해서만 요금이 청구됩니다.

- Batch는 스트리밍과 zero data retention을 지원하지 않습니다.

한줄요약 : 반값 개꿀

고정닉 2

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2858	설문	SNS로 싸우면 절대 안 질 것 같은 고집 있는 스타는?	운영자	24/05/06	-	-
464292	일반	난 누누히 말해왔다 < 모범사례 [1]	ㅇㅇ(121.143)	05.08	169	0
464291	일반	큰거 오네 2031년 [2]	디붕이(222.117)	05.08	265	0
464290	일반	gpt2 공짜노? [3]	noosphere	05.08	292	0
464289	일반	아니 gpt-4 대가리 깬거 맞는데 뭘 자꾸 실망이래 ㅋㅋ [7]	ㅇㅇ(125.137)	05.08	355	2
464288	일반	뭐라도 하는 llm vs 아무것도 없는 불가능충 [1]	ㅇㅇ(61.75)	05.08	97	0
464286	일반	난 누누히 말해왔다 <- 뭐라말했는지 기억 못함 [5]	ㅇㅇ(112.168)	05.08	152	0
464285	일반	LLM 한계충이 패배? [2]	ㅇㅇ(121.134)	05.08	207	0
464284	일반	gpt2로 Processing 써서 비주얼 아트를 만들게 해보았다 [7]	ㅇㅇ(218.52)	05.08	432	6
464283	일반	인간이 수학이라는 학문을 구축한 걸 보면 [2]	ㅇㅇ	05.08	145	0
464282	일반	챗gpt4가 대학수학도 풀수있음? [9]	ㅇㅇ(121.137)	05.08	213	0
464281	일반	최근 엄청 신경 쓰이는거 [9]	ㅇㅇ(117.20)	05.08	365	0
464279	일반	시발 괜히 클로드 결제햇노 [3]	noosphere	05.08	233	0
464278	일반	gpt2 어디서 써볼수잇냐? [5]	noosphere	05.08	311	0
464276	일반	gpt2 어디서 만든거임?	ㅇㅇ(221.150)	05.08	68	0
464275	일반	언어로 수학을 풀 순 없는건가 [17]	ㅇㅇ	05.08	301	0
464274	일반	자칭 전공자라는게 뭔지 모르겠음 [2]	Nail	05.08	142	3
464273	일반	also gpt 2쓰려고 하는데 모델명 안나오는데? [4]	ㅇㅇ(49.143)	05.08	348	0
464272	일반	얀르쿤 병신임 [2]	ㅇㅇ(58.29)	05.08	206	0
464271	일반	얘 왜이럼 ㅋㅋ	ㅇㅇ(58.76)	05.08	126	0
464269	일반	학습칩 따로 추론칩 따로라며?	ㅇㅇ(117.20)	05.08	66	1
464268	일반	also gpt2 무슨 회사에서 만든거임?	ㅇㅇ(221.150)	05.08	93	0
464267	일반	also gpt2로 이미 필요한 개발자 숫자 줄일 수 있는 거 아님? [3]	ㅇㅇ(120.142)	05.08	242	0
464265	일반	뭐임? 좋은 소식 있음? [2]	ㅇㅇ(218.50)	05.08	198	0
464264	역노화	역노화는 개인이나 국가적 차원 모두 원하는 기술이지... [7]	ㅇㅇ	05.08	166	0
464262	정보	OpenAI의 정형원 박사 강연 [1]	초존도초	05.08	217	4
464261	일반	난 작년부터 누누히 말해왔었다 ㅋ [9]	ㅇㅇ(121.136)	05.08	375	0
464260	일반	1년 9개월만에 이정도 발전이면 ㅋㅋㅋㅋㅋㅋㅋㅋ [2]	ㅇㅇ(221.161)	05.08	350	2
464259	일반	also 나와서 AI겨울 끝난거냐 [1]	ㅇㅇ	05.08	193	0
464258	일반	걍 지금 llm ㅈㄴ 짜치는거 ㅋㅋ [1]	ㅇㅇ(222.236)	05.08	234	2
464257	일반	아무래도 추론은 발전이 좀 느린거같긴 함	ㅇㅇ(222.96)	05.08	130	1
464256	일반	GPT2가 쓴 시에 눈물 흘렸당 [6]	ㅇㅇ(218.147)	05.08	303	1
464252	일반	gpt2 also로 본 생성형 ai가 알고 있는 것과 모르는 것	ㅇㅇ(221.155)	05.08	155	0
464251	일반	서비스업도 로봇 도입되어야 하는이유 [1]	제타플롭스	05.08	103	1
464249	일반	LLM방식은 한계가 있다고 말했던 얀르쿤이 옳았던것 같으면 개추 [12]	ㅇㅇ(169.150)	05.08	2527	36
464247	일반	also gpt2 뭔데 ㅋㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ(112.170)	05.08	164	0
464246	일반	GPT2는 gpt-2업그레이드 버전일거라고 믿음 [1]	ㅇㅇ(114.202)	05.08	180	0
464245	일반	새 모델 공개때마다 제발 좀 그만했으면 하는 지랄들 [4]	몬무스	05.08	447	11
464244	일반	gpt5는?	ㅇㅇ(210.113)	05.08	89	0
464241	일반	gpt2 also의 핀볼 게임 구현 !	ㅇㅇ(221.155)	05.08	259	1
464239	일반	gpt2 also 작명부터 ㅈ밥냄새 풀풀 나잖아 [3]	ㅇㅇ(115.139)	05.08	342	0
464237	일반	also어디서 써봐? 핑프라 미안 [2]	ㅇㅇ	05.08	261	0
464236	일반	딴건 모르겠고 요즘 구글 ㅈ박아서	ㅇㅇ(115.139)	05.08	79	0
464235	일반	gpt2 네이밍 너무 아깝지 않냐	ㅇㅇ	05.08	82	0
464233	일반	트랜스포머 LLM 텍스트데이터의 한계 [5]	ㅇㅇ(166.104)	05.08	160	0
464232	일반	also gpt가 쓴 부유세에 대한 입장 [1]	ㅇㅇ(218.147)	05.08	245	0
464231	일반	gpt-2 역시 추론 능력은 없는게 맞음 [5]	ㅇㅇ(210.95)	05.08	274	0
464230	일반	AlSO와 오푸스의 코딩 승부 ZonE - < 작동하는 시계 그리기 >	ㅇㅇ(221.155)	05.08	114	0
464229	일반	x랑 레딧쪽 여론은 어떠냐	ㅇㅇ(115.139)	05.08	76	1
464228	일반	그래도 한동안은 oai가 주도권을 잡으리란건 거의 확실해보이는데	ㅇㅇ(115.139)	05.08	76	0
464226	일반	ALSO의 '시각적 처리 및 좌표 인식 테스트' - 미국을 그려보세요!	ㅇㅇ(221.155)	05.08	196	0