DevDay 발표된 openai chatgpt 업데이트 내용

새롭게 업데이트가 되었습니다. 상당히 많은 변화가 있고 api사용방법도 변화가 생겨 업데이트 하게 되면 코드 수정도 함께 해야 할거 같습니다.

한 번 자세히 변화내용을 살펴보도록 하겠습니다.

1. 128k를 지원하는 gpt4-turbo

GPT-4 Turbo는 더 많은 능력을 갖추고 2023년 4월까지의 세계 사건에 대한 지식을 보유하고 있습니다. 128k 컨텍스트 창이 있으므로 단일 프롬프트에 300페이지 이상의 텍스트에 해당하는 내용을 넣을 수 있습니다. 또한 GPT-4에 비해 입력 토큰의 경우 3배 , 출력 토큰의 경우 2배 저렴한 가격으로 GPT-4 Turbo를 제공할 수 있도록 성능을 최적화했습니다

이제 왠만한 내용은 집어 넣고 물어보는 봇을 쉽게 만들 수 있게 되었습니다. 물론 128k를 다쓰면서 프롬프트를 작성하면 비용이 어마어마하게 발생할테지만 그럼에도 사용할 수 있게 되었다는건 좋은 소식임이 틀림없습니다.

- Json 개체 생성가능

새로운 API 매개변수를 response_format사용하면 모델이 구문적으로 올바른 JSON 개체를 생성하도록 출력을 제한할 수 있습니다. JSON 모드는 함수 호출 외부에서 Chat Completions API에서 JSON을 생성하는 개발자에게 유용할 것입니다.

- 비전 기능을 갖춘 GPT-4 터보

GPT-4 Turbo는 이미지를 Chat Completions API의 입력으로 받아들여 캡션 생성, 실제 이미지 세부 분석, 그림이 포함된 문서 읽기 등의 사용 사례를 지원합니다. 예를 들어, BeMyEyes는 이 기술을 사용하여 시각 장애가 있거나 시력이 낮은 사람들이 제품 식별이나 매장 탐색과 같은 일상 업무를 수행할 수 있도록 돕습니다. gpt-4-vision-preview개발자는 API를 사용하여 이 기능에 액세스할 수 있습니다 . 우리는 안정적인 릴리스의 일부로 주요 GPT-4 Turbo 모델에 비전 지원을 출시할 계획입니다. 가격은 입력 이미지 크기에 따라 다릅니다. 예를 들어 1080×1080 픽셀의 이미지를 GPT-4 Turbo로 전달하는 데 드는 비용은 $0.00765입니다. 비전 가이드를 확인해 보세요

2. gpt 3.5 업데이트

3.5도 업데이트가 함께 진행되었습니다.

새로운 3.5 Turbo는 향상된 명령 따르기, JSON 모드 및 병렬 함수 호출을 지원합니다. 예를 들어 내부 평가에서는 JSON, XML, YAML 생성과 같은 작업에 따른 형식이 38% 개선된 것으로 나타났습니다. gpt-3.5-turbo-1106 개발자는 API를 호출하여 이 새로운 모델에 액세스할 수 있습니다 . 해당 이름을 사용하는 애플리케이션은 gpt-3.5-turbo 12월 11일에 자동으로 새 모델로 업그레이드됩니다. 이전 모델은 gpt-3.5-turbo-0613 2024년 6월 13일까지 API를 전달하여 계속 액세스할 수 있습니다

따로 명시하지 않으면 12월 11일부터 자동으로 api가 업데이트 된 것으로 사용됩니다.

3.  Assistants API를 출시

새로운 Assistants API는 코드 해석기 및 검색과 같은 새로운 기능과 함수 호출을 제공하여 이전에 직접 수행해야 했던 많은 무거운 작업을 처리하고 고품질 AI 앱을 구축할 수 있도록 해줍니다.

이 API는 유연성을 위해 설계되었습니다. 사용 사례는 자연어 기반 데이터 분석 앱, 코딩 도우미, AI 기반 휴가 플래너, 음성 제어 DJ, 스마트 시각적 캔버스에 이르기까지 다양합니다. Assistants API는 새로운 GPT 제품을 활성화하는 것과 동일한 기능 , 즉 코드 해석기, 검색, 함수 호출과 같은 맞춤 지침 및 도구를 기반으로 구축되었습니다.

이 API에 의해 도입된 주요 변경 사항은 개발자가 스레드 상태 관리를 OpenAI에 넘겨주고 컨텍스트 창 제약 조건을 해결할 수 있도록 하는 지속적이고 무한히 긴 스레드 입니다. Assistants API를 사용하면 각각의 새 메시지를 기존 thread.

보조자는 필요에 따라 다음을 포함한 새로운 도구를 호출할 수도 있습니다.

코드 해석기(Code Interpreter) : 샌드박스 실행 환경에서 Python 코드를 작성하고 실행하며, 그래프와 차트를 생성하고, 다양한 데이터와 서식이 포함된 파일을 처리할 수 있습니다. 이를 통해 어시스턴트는 코드를 반복적으로 실행하여 까다로운 코드 및 수학 문제 등을 해결할 수 있습니다.

검색 : 독점 도메인 데이터, 제품 정보 또는 사용자가 제공한 문서와 같은 모델 외부의 지식으로 어시스턴트를 강화합니다. 즉, 문서에 대한 임베딩을 계산하고 저장할 필요가 없으며 청크 분할 및 검색 알고리즘을 구현할 필요가 없습니다. Assistants API는 ChatGPT에서 지식 검색을 구축한 경험을 바탕으로 사용할 검색 기술을 최적화합니다.

함수 호출 : 어시스턴트가 사용자가 정의한 함수를 호출하고 메시지에 함수 응답을 통합할 수 있습니다.

플랫폼의 나머지 부분과 마찬가지로 OpenAI API에 전달된 데이터와 파일은 모델을 교육하는 데 사용되지 않으며 개발자는 적절하다고 판단되는 경우 데이터를 삭제할 수 있습니다.

Assistants Playground 로 이동하면 코드를 작성하지 않고도 Assistants API 베타를 사용해 볼 수 있습니다 .

4. DALL·E 3

드디어 이걸 api에서 쓸 수 있게 되었습니다. 

개발자는 최근 ChatGPT Plus 및 Enterprise 사용자에게 출시된 DALL·E 3를 이미지 API를 통해 dall-e-3모델로 지정하여 앱과 제품에 직접 통합할 수 있습니다. Snap, Coca-Cola, Shutterstock과 같은 회사에서는 DALL·E 3를 사용하여 고객과 캠페인을 위한 이미지와 디자인을 프로그래밍 방식으로 생성했습니다. 이전 버전의 DALL·E와 마찬가지로 API에는 개발자가 응용 프로그램을 오용으로부터 보호할 수 있도록 조정 기능이 내장되어 있습니다. 우리는 생성된 이미지당 $0.04부터 시작하는 가격으로 다양한 형식과 품질 옵션을 제공합니다. API에서 DALL·E 3을 시작하는 방법에 대한 가이드를 확인하세요

이건 특히 재미있을거 같아 기대됩니다. 시간을 내서 얼른 만들어보고 싶네요.

5. 텍스트 음성변환 tts

openai가 다해버릴 생각인가 봅니다. 달리와 tts까지

이제 개발자는 텍스트 음성 변환 API를 통해 텍스트에서 인간 수준의 음성을 생성할 수 있습니다. 새로운 TTS 모델은 선택할 수 있는 6가지 사전 설정 음성과 2가지 모델 변형을 제공 합니다 tts-1. 실시간 사용 사례에 최적화되어 있으며 품질에도 최적화되어 있습니다. 가격은 입력 1,000자당 $0.015부터 시작됩니다. 시작하려면 TTS 가이드를 확인하세요 .

6. 가격인하

반가운소식입니다!!

그래도 아직 4는 비싸단 생각이 드네요. 많이 사용하지 않지만 고품질이 필요한 경우에 이용해야겠어요.

• GPT-4 Turbo 입력 토큰은 $0.01로 GPT-4보다 3배 저렴하고, 출력 토큰은 $0.03으로 2배 저렴합니다.
• GPT-3.5 Turbo 입력 토큰은 $0.001로 이전 16K 모델보다 3배 저렴하고, 출력 토큰은 $0.002로 2배 저렴합니다. 이전에 GPT-3.5 Turbo 4K를 사용하는 개발자는 $0.001로 입력 토큰이 33% 감소되는 이점을 누릴 수 있습니다. 이러한 저렴한 가격은 오늘 출시된 새로운 GPT-3.5 Turbo에만 적용됩니다.
• 미세 조정된 GPT-3.5 Turbo 4K 모델 입력 토큰은 $0.003로 4배 감소하고 출력 토큰은 $0.006으로 2.7배 저렴합니다. 미세 조정은 새로운 GPT-3.5 Turbo 모델을 통해 4K와 동일한 가격으로 16K 컨텍스트도 지원합니다. 이 새로운 가격은 미세 조정된 gpt-3.5-turbo-0613모델에도 적용됩니다.