— Feature Overview
AI Agents
에이전트는 기본적으로 간단한 도구에 액세스할 수 있는 LLM입니다. 이 영역에 훨씬 더 많은 사용자 정의를 곧 추가할 예정입니다. 모든 에이전트는 작업 공간에서 동일한 도구를 공유하지만, 호출된 작업 공간 내에서 작동합니다 @agent.
작업 공간으로 이동하여 @agent <your prompt> 입력하면 에이전트 세션을 시작할 수 있으며 exit 입력하기만 하면 종료할 수 있습니다.
에이전트는 웹사이트를 스크래핑하고, 문서를 나열하고 요약하고, 웹을 검색하고, 차트를 만들고, 심지어 데스크톱과 자신의 메모리에 파일을 저장할 수도 있습니다.
API Access & Keys
인스턴스에서 사용 가능한 엔드포인트에 대한 API 설명서는 다음에서 찾을 수 있습니다./api/docs
API 키는 올바른 액세스 수준을 갖춘 계정에서 관리됩니다.
하지만 API 키가 있는 사람은 누구나 Local RAG를 사용할 수 있으므로 이 키를 어디에도 공유하거나 공개하지 마세요.
Local RAG는 작업 공간을 관리, 업데이트, 포함하고, 심지어 채팅하는 데 사용할 수 있는 전체 개발자 API를 지원합니다.
권한이 부여된 경우 API 키를 즉시 생성하고 삭제할 수 있습니다.
Appearance Customization
Local RAG는 사용자가 원하는 브랜딩에 맞게 인스턴스의 모양과 느낌을 커스터마이징 할 수 있습니다.
Chat Logs
Local RAG는 CSV, JSON, JSON(Alpaca), JSONL(OpenAI fine-tune) 의 형태로 채팅 로그 내보내기를 지원 합니다.
최소 10개의 채팅 로그가 사용 가능해지면 화면 상단에서 내보내기를 클릭하기만 하면 됩니다. 올바른 계정 권한이 있다면 RAG 인스턴스의 작업 공간 및 사용자별 채팅 로그를 볼 수 있습니다.
Embeded Chat Widgets
RAG 솔루션을 사용하면 간단한 <script>태그를 사용하여 모든 웹사이트에 쉽게 통합할 수 있는 내장형 채팅 위젯을 만들 수 있습니다 . 이러한 내장형 채팅 위젯은 사용자가 웹사이트에서 직접 챗봇과 상호 작용할 수 있는 편리한 방법을 제공합니다.
•
구성 옵션
내장형 채팅 위젯을 만들 때는 위젯의 동작과 모양을 사용자 정의하기 위한 여러 가지 구성 옵션을 사용할 수 있습니다.
•
작업 공간
작업 공간 설정은 채팅 창이 어떤 작업 공간을 기반으로 할지 결정합니다. 특정 구성 옵션에 의해 재정의되지 않는 한 모든 기본값은 선택한 작업 공간에서 상속됩니다.
•
채팅 방법
◦
채팅: 챗봇은 맥락에 관계없이 모든 질문에 답변합니다.
◦
질의: 챗봇은 작업 공간의 문서와 관련된 채팅에만 응답합니다.
•
도메인의 요청 제한
이 필터를 사용하면 지정된 목록이 아닌 다른 도메인에서 오는 모든 요청을 차단할 수 있습니다. 이 필드를 비워두면 누구나 모든 사이트에서 내장된 채팅 위젯을 사용할 수 있습니다.
•
하루 최대 채팅
이 내장된 채팅 위젯이 24시간 동안 처리할 수 있는 채팅 수를 제한할 수 있습니다. 이 값을 0으로 설정하면 하루에 무제한 채팅이 가능합니다.
•
세션당 최대 채팅
이 내장된 채팅 위젯을 사용하면 세션 사용자가 24시간 동안 보낼 수 있는 채팅 수를 제한할 수 있습니다. 이 값을 0으로 설정하면 세션당 무제한 채팅이 가능합니다.
•
동적 모델 사용 활성화
동적 모델 사용을 활성화하면 선호하는 LLM 모델 설정이 작업 공간 기본값을 재정의할 수 있습니다.
•
동적 LLM 온도 활성화
동적 LLM 온도를 활성화하면 LLM 온도 설정이 작업 공간 기본값을 재정의 합니다.
•
프롬프트 재정의 활성화
프롬프트 재정의를 활성화하면 시스템 프롬프트 설정이 작업 공간 기본값을 재정의 하도록 허용합니다.
•
채팅 위젯 임베드
•
내장된 채팅 위젯을 만든 후, 간단한 <script>태그를 사용하여 웹사이트에 게시할 수 있는 링크가 제공됩니다 . 이를 통해 채팅 위젯을 웹사이트의 HTML 코드에 쉽게 통합할 수 있습니다.
Event Logs
RAG의 이벤트 로그 페이지를 통해 사용자는 애플리케이션 내에서 발생하는 다양한 이벤트를 보고 모니터링할 수 있습니다. 이 기능은 사용자 활동과 시스템 관련 이벤트에 대한 통찰력을 제공합니다.
이벤트 로그 페이지는 다음과 같은 다양한 이벤트를 캡처합니다.
•
사용자 로그인 시도(성공 및 실패)
•
사용자가 보낸 메시지
•
응용 프로그램 설정에 대한 변경 사항
•
문서 업로드
이벤트 로그 페이지의 각 이벤트에는 이벤트 유형, 관련 사용자(해당되는 경우), 타임스탬프, 이벤트 유형에 대한 추가 세부 정보 등의 관련 정보가 포함되어 있습니다.
Embedding Models
Local RAG는 거의 설정 없이도 바로 사용할 수 있는 많은 임베딩 모델 공급자를 지원합니다.
임베딩 모델은 텍스트를 벡터로 변환하는 특정 유형의 모델로, 벡터 데이터베이스에 저장하고 검색할 수 있습니다. 이는 RAG의 기반입니다.
•
Local Embedding Model Providers
◦
Built-in (default), Ollama, LM Studio, Local AI
•
Cloud Embedding Model Providers
◦
Open AI, Azure OpenAI, Cohere
Language Models
Local RAG를 사용하면 채팅과 생성 AI를 위한 다양한 LLM 공급자를 사용할 수 있습니다.
선택에 따라 추가 구성이 필요할 수도 있습니다.
•
Local Language Model Providers
◦
Built-in (default), Ollama, LM Studio, Local AI
•
Cloud Language Model Providers
◦
OpenAI, Azure OpenAI, AWS Bedrock, Anthropic, Cohere, Google Gemini Pro, Hugging Face, Together AI, OpenRouter, Perplexity AI, Mistral API, Groq, KobaldCPP, OpenAI(generic)
Transcription Models
Local RAG에서는 사용자 정의 오디오 전사 서비스 제공자를 지원합니다.
•
Local Transcription Model Providers
◦
Built-in (Xenova)
•
Cloud Transcription Model Providers
◦
OpenAI
Vector Database
Local RAG 솔루션 에서는 LanceDB가 구동하는 개인 내장 벡터 데이터베이스가 함께 제공됩니다. 기본 옵션을 사용하면 벡터가 솔루션 LLM을 벗어나지 않습니다.
Local RAG는 기본적으로 다양한 백터 데이터베이스 공급자를 지원합니다.
•
Local Vector Databases Providers
◦
LanceDB (Built-in), Chroma, Milvus
•
Cloud Vector Databases Providers
◦
Pinecone, Zilliz, AstraDB, QDrant, Weaviate
Security & Access
Local RAG에서는 단일 사용자 모드와 다중 사용자 모드라는 두가지 유형의 사용 사례를 지원합니다.
경고
다중 사용자 모드에서는 단일 사용자 모드로 되돌릴 수 없습니다.
•
단일 사용자 모드
단일 사용자 모드는 자신 또는 신뢰할 수 있는 일부 그룹만 인스턴스를 사용하는 사용자에게 적합합니다. 사용자별 권한을 원하면 다중 사용자 모드로 전환해야 합니다.
단일 사용자 모드에서는 귀하(그리고 오직 귀하만)가 인스턴스를 완전히 제어할 수 있습니다. 인스턴스에 대한 비밀번호가 설정된 경우, 모든 사람이 인스턴스를 사용하고, 모든 구성이나 설정을 변경하고, 모든 채팅을 볼 수 있습니다.
◦
인스턴스 암호 보호
단일 사용자 모드를 사용할 때 "Password Protect Instance" 옵션을 켜서 인스턴스를 암호로 보호할 수 있습니다. 그러면 인스턴스를 보호하기 위한 암호를 입력할 수 있는 입력이 표시됩니다.
◦
다중 사용자 모드
선호되는 사용 방법은 다중 사용자 모드 입니다 . 이 모드에서는 사용자별 역할 기반 액세스 권한을 설정할 수 있습니다.
기본적으로 가장 높은 수준의 권한을 가진 관리자 계정을 만들게 됩니다. 관리자로서 전체 시스템, 로그, 분석 등에 액세스할 수 있습니다.
사용자 역할
▪
Admin : 전체 시스템에 대한 전체 액세스 권한
▪
Manager : LLM, Embedder 및 Vector 데이터베이스 설정을 제외한 모든 작업 공간을 보고 모든 속성을 관리할 수 있습니다.
▪
Default : 명시적으로 추가된 작업 공간에만 채팅을 보낼 수 있습니다. 작업 공간이나 시스템 설정을 보거나 편집할 수 없습니다.
다중 사용자 모드 활성화
다중 사용자 모드를 활성화하려면 "다중 사용자 모드 활성화" 옵션을 켭니다. 그러면 첫 번째 관리자 계정의 사용자 이름과 비밀번호를 입력할 수 있는 입력이 표시됩니다.
Privacy & Data Handling
익명의 원격 측정 데이터를 수집하며, 어떠한 개인 데이터도 수집하지 않습니다.
당사는 제품 개선을 위해 원격 측정 데이터를 수집합니다.
어떤 이유로든 원격 측정 데이터를 저희와 공유하는 것을 원하지 않으시면 이 메뉴에서 해당 기능을 비활성화하실 수 있습니다.
