오픈 소스 AI 봇인 OpenAssistant

최근 LAION 커뮤니티 (Large-Scale Artificial Intelligence Open Network) 발표를 통해 공개 «OpenAssistant» 프로젝트의 첫 번째 릴리스, 자연어로 질문을 이해하고 답변하고 타사 시스템과 상호 작용하며 필요한 정보를 동적으로 추출할 수 있는 인공 지능 챗봇을 개발합니다.

LAION에 익숙하지 않은 분들은 LAION이 무료 기계 학습 시스템을 만들기 위한 도구, 모델 및 데이터 수집을 개발한다는 사실을 아셔야 합니다(예: LAION 수집은 Stable Diffusion 이미지 합성 시스템의 모델을 교육하는 데 사용됨).

이외에 작업을 훈련하고 구성하는 코드 컴퓨터에 있는 봇의 기성품 모델 모음을 사용하는 것이 제안됩니다. 요청-응답(지시-실행) 형식의 600개의 대화 예제를 기반으로 훈련된 이미 훈련된 언어 모델을 사용하고 애호가 커뮤니티의 참여로 준비 및 수정했습니다.

30억 개의 매개변수를 다루는 OA_SFT_Llama_6B_30 지식 모델을 사용하여 챗봇의 품질을 평가하는 온라인 서비스도 출시되었습니다.

우리 팀은 지난 몇 달 동안 방대한 양의 정보와 텍스트 기반 피드백을 수집하여 언어 모델 또는 기타 AI 애플리케이션 교육을 위해 특별히 설계된 매우 다양하고 고유한 데이터 세트를 생성하기 위해 끊임없이 노력했습니다.

광범위한 주제와 작문 스타일을 다루는 600개 이상의 사람이 생성한 데이터 포인트를 통해 당사의 데이터 세트는 차세대 교육 모델을 만들려는 모든 개발자에게 귀중한 도구임이 입증될 것입니다.

효율성을 높이려면 시스템의 필요성을 피하십시오. 대량의 사전 설정 매개변수 저장, 프로젝트는 검색 엔진 또는 외부 서비스를 통해 필요한 정보를 검색할 수 있는 동적으로 업데이트되는 지식 기반을 사용할 가능성을 예견합니다.

예를 들어 응답을 생성할 때 봇은 외부 API에 액세스하여 추가 데이터를 얻을 수 있습니다. 고급 기능 중 개인화 지원, 즉 이전 문구를 기반으로 특정 사용자에게 적응하는 기능도 강조됩니다.

OpenAssistant 설치에 관심이 있는 사용자는 로컬로 설치할 수 있고 후보 Pythia SFT 모델이 HuggingFace에서 제공되며 HuggingFace Transformers 라이브러리를 통해 로드될 수 있음을 알아야 합니다. 따라서 충분한 하드웨어로 사용할 수 있습니다. HF에는 자신의 하드웨어 없이 OA 후보자와 채팅하는 데 사용할 수 있는 공간도 있습니다. 그러나 이러한 모델은 확정적이지 않으며 불량하거나 원치 않는 결과를 생성할 수 있습니다.

LLaMa SFT 모델은 메타 라이선스로 인해 직접 출시할 수 없지만 XOR 가중치는 곧 출시될 예정입니다.

현재 가장 작은 모델(Pythia)은 12B 매개변수를 가지며 소비자 하드웨어에서 실행하기 어렵지만 단일 전문 GPU에서 실행할 수 있다는 점을 언급하는 것이 중요합니다. 미래에는 더 작은 모델이 있을 수 있으며 더 작은 하드웨어에서 모델을 실행하는 데 도움이 될 수 있는 정수 양자화와 같은 방법을 발전시키기를 희망합니다.

이 프로젝트는 ChatGPT의 기능을 반복하는 데 그치지 않습니다. Open-Assistant는 오픈 소스 프로젝트인 Stable Diffusion이 이미지 생성 도구 개발을 자극한 것처럼 콘텐츠 생성 및 자연어 쿼리 처리 분야에서 개방형 개발 개발을 자극할 것으로 기대됩니다.

프로젝트 코드는 Python으로 작성되었으며 Apache 2.0 라이선스에 따라 배포됩니다. OpenAssistant 개발을 사용하여 외부 API 및 서비스에 연결되지 않은 자체 지능형 비서 및 대화 시스템을 생성할 수 있습니다. 예를 들어, 기존의 소비자 하드웨어는 작동하기에 충분합니다. 예를 들어 스마트폰에서 작업이 가능합니다. Open Assistant 데이터는 상업적 사용을 포함하여 광범위한 사용을 허용하는 크리에이티브 커먼즈 라이선스에 따라 배포됩니다.

마지막으로 소스 코드를 참조할 수 있을 뿐만 아니라 이에 대해 자세히 알아보고 싶다면 세부 정보를 참조할 수 있습니다. 다음 링크에서.