openai api 

    
퀵스타트
플레이그라운드에 생성되는 코드 바로 적용 안됨 키 넣어줘야함.
env로 넣어도 되고 그냥 바로 넣어도 되고
https://platform.openai.com/docs/quickstart

토큰 수 계산

https://platform.openai.com/tokenizer

토큰 콜수 비용계산 사이트 여러 llm 가격비교
얼추 내가 손으로 계산한거랑 비슷하게 나오는거 보니 계산은 맞게 했는데 실제로는 더 비싸게 나옴
https://www.launchnow.pro/openai-chatgpt-api-pricing-calculator


내 티어 확인(rpm 제한 다름)
https://platform.openai.com/settings/organization/limits

티어별 rpm 문서
https://platform.openai.com/docs/guides/rate-limits/rate-limits


Azure OpenAI 라는 것도 있네
https://learn.microsoft.com/en-us/azure/ai-services/openai/overview#comparing-azure-openai-and-openai
OpenAI와 동일한 모델을 실행하면서 Microsoft Azure의 보안 기능을 얻을 수 있습니다. Azure OpenAI는 프라이빗 네트워킹, 지역별 가용성 및 책임 있는 AI 콘텐츠 필터링을 제공합니다.



이거 댓글 읽어볼만함 
... In fact, “real” parallelism is not natively possible at all because of what’s called the Global Interpreter Lock 2 (the GIL) in python... -> GIL 때문에 스레드가 동시에 작동은 안되지만 스레드를 번갈아서 사용하게되어서 어쨌든 되기는 하는 듯?

https://community.openai.com/t/can-one-assistant-run-concurrently-on-multiple-different-threads-at-the-same-time/678250/2

token 수 세기  tiktoken세기 가이드라인
https://cookbook.openai.com/examples/how_to_count_tokens_with_tiktoken

gpt-3.5-turbo Finetuning
https://cookbook.openai.com/examples/chat_finetuning_data_prep

finetuning jsonl 포맷 예시 
https://github.com/openai/openai-cookbook/blob/main/examples/data/toy_chat_fine_tuning.jsonl

댓글

댓글 쓰기

이 블로그의 인기 게시물

js 스트링에서 요소 갯수 세기

이상하다 https://stackoverflow.com/questions/881085/count-the-number-of-occurrences-of-a-character-in-a-string-in-javascript If you're looking for the commas: (mainStr. split ( "," ). length - 1 ) //3 If you're looking for the str (mainStr. split ( "str" ). length - 1 ) //4   console . log (( "str1,str2,str3,str4" . match ( /,/g ) || []). length ); //logs 3 console . log (( "str1,str2,str3,str4" . match ( new RegExp ( "str" , "g" )) || []). length ); //logs 4
Read more »

STUDY

@GetMapping("/proxy-download") public ResponseEntity<Resource> proxyDownload() {     String sourceUrl = "https://example.com/file-to-download.bin";     ResponseEntity<byte[]> response = restTemplate.exchange(         sourceUrl,         HttpMethod.GET,         null,         byte[].class     );     byte[] fileBytes = response.getBody();     // 👉 원본 Content-Disposition 헤더에서 파일 이름 추출     String disposition = response.getHeaders().getFirst(HttpHeaders.CONTENT_DISPOSITION);     String filename = "default.bin"; // fallback     if (disposition != null && disposition.contains("filename=")) {         // Content-Disposition: attachment; filename="some_file.bin"         filename = disposition.split("filename=")[1].replace("\"", "").trim();     }     HttpHeaders ...
Read more »

javascript cheatsheet

JavaScript 기능들을 정리한 치트시트를 제공합니다. 이 치트시트는 데이터 구조와 알고리즘을 구현하는 데 필요한 기본적인 구문과 기능을 포함하고 있습니다. ## JavaScript Coding Cheat Sheet ### 1. **기본 문법** #### 변수 선언 ```javascript let variable = value;   // 변수 선언 (변경 가능) const constant = value; // 상수 선언 (변경 불가) ``` #### 함수 선언 ```javascript // 함수 선언식 function functionName(params) {   // 함수 내용 } // 함수 표현식 const functionName = function(params) {   // 함수 내용 }; // 화살표 함수 const functionName = (params) => {   // 함수 내용 }; ``` ### 2. **기본 데이터 구조** #### 배열 (Array) ```javascript let arr = [1, 2, 3]; // 배열 길이 console.log(arr.length); // 배열 요소 접근 console.log(arr[0]); // 배열의 끝에 추가 arr.push(4); // 배열의 끝에서 제거 arr.pop(); // 배열의 앞에 추가 arr.unshift(0); // 배열의 앞에서 제거 arr.shift(); ``` #### 객체 (Object) ```javascript let obj = {   key1: 'value1',   key2: 'value2' }; // 속성 접근 console.log(obj.key1); // 속성 추가 또는 변경 obj.key3 = 'value3'; // 속성 제거 delete obj.key2; ``` ### 3. **반복문 및 조건문** #### 반복문 ```javascript // for 반복문 for (let i = 0; i ...
Read more »