README.md

Phi Cookbook: Microsoft의 Phi 모델 실습 예제

Phi는 Microsoft에서 개발한 오픈 소스 AI 모델 시리즈입니다.

Phi는 현재 가장 강력하고 비용 효율적인 소형 언어 모델(SLM)로, 다국어, 추론, 텍스트/채팅 생성, 코딩, 이미지, 오디오 및 기타 시나리오에서 매우 우수한 벤치마크를 제공합니다.

Phi를 클라우드 또는 엣지 디바이스에 배포할 수 있으며, 제한된 컴퓨팅 자원으로 생성형 AI 애플리케이션을 쉽게 구축할 수 있습니다.

이 리소스를 사용하려면 다음 단계를 따라 진행하세요:

1. 저장소 포크하기: 클릭
2. 저장소 클론하기: git clone https://github.com/microsoft/PhiCookBook.git
3. Microsoft AI Discord 커뮤니티에 가입하여 전문가와 개발자를 만나보세요

🌐 다국어 지원

프랑스어 | 스페인어 | 독일어 | 러시아어 | 아랍어 | 페르시아어 (파르시) | 우르두어 | 중국어 (간체) | 중국어 (번체, 마카오) | 중국어 (번체, 홍콩) | 중국어 (번체, 대만) | 일본어 | 한국어 | 힌디어 | 벵골어 | 마라티어 | 네팔어 | 펀자브어 (구르무키) | 포르투갈어 (포르투갈) | 포르투갈어 (브라질) | 이탈리아어 | 폴란드어 | 터키어 | 그리스어 | 태국어 | 스웨덴어 | 덴마크어 | 노르웨이어 | 핀란드어 | 네덜란드어 | 히브리어 | 베트남어 | 인도네시아어 | 말레이어 | 타갈로그어 (필리핀어) | 스와힐리어 | 헝가리어 | 체코어 | 슬로바키아어 | 루마니아어 | 불가리아어 | 세르비아어 (키릴문자) | 크로아티아어 | 슬로베니아어

목차

• 소개

  • Phi 패밀리에 오신 것을 환영합니다
  • 환경 설정하기
  • 핵심 기술 이해하기
  • Phi 모델을 위한 AI 안전성
  • Phi 하드웨어 지원
  • Phi 모델 및 플랫폼별 가용성
  • Guidance-ai와 Phi 사용하기
  • GitHub 마켓플레이스 모델
  • Azure AI 모델 카탈로그

• 다양한 환경에서 Phi 추론하기

  • Hugging face
  • GitHub 모델
  • Azure AI Foundry 모델 카탈로그
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM

• Phi 패밀리 추론

  • iOS에서 Phi 추론하기
  • Android에서 Phi 추론하기
  • Jetson에서 Phi 추론하기
  • AI PC에서 Phi 추론하기
  • Apple MLX 프레임워크로 Phi 추론하기
  • 로컬 서버에서 Phi 추론하기
  • AI Toolkit을 사용하여 원격 서버에서 Phi 추론하기
  • Rust로 Phi 추론하기
  • 로컬에서 Phi--Vision 추론하기
  • Kaito AKS, Azure Containers(공식 지원)을 사용하여 Phi 추론하기

• Phi 패밀리 양자화

  • llama.cpp를 사용하여 Phi-3.5 / 4 양자화하기
  • onnxruntime의 생성 AI 확장을 사용하여 Phi-3.5 / 4 양자화하기
  • Intel OpenVINO를 사용하여 Phi-3.5 / 4 양자화하기
  • Apple MLX 프레임워크를 사용하여 Phi-3.5 / 4 양자화하기

• Phi 평가

• 책임 있는 AI

  • 평가를 위한 Azure AI Foundry
  • 평가를 위한 Promptflow 사용

• Azure AI Search와 RAG

  • Phi-4-mini 및 Phi-4-multimodal(RAG)을 Azure AI Search와 함께 사용하는 방법

• Phi 애플리케이션 개발 샘플

  • 텍스트 및 채팅 애플리케이션

    • Phi-4 샘플 🆕
      • [📓] Phi-4-mini ONNX 모델로 채팅하기
      • Phi-4 로컬 ONNX 모델 .NET으로 채팅하기
      • Semantic Kernel을 사용한 Phi-4 ONNX .NET 콘솔 앱 채팅
    • Phi-3 / 3.5 샘플
      • Phi3, ONNX Runtime Web 및 WebGPU를 사용하여 브라우저에서 로컬 챗봇 실행
      • OpenVino 채팅
      • 다중 모델 - Phi-3-mini 및 OpenAI Whisper와의 상호작용
      • MLFlow - 래퍼 구축 및 MLFlow와 함께 Phi-3 사용
      • 모델 최적화 - Olive를 사용하여 ONNX Runtime Web용 Phi-3-min 모델 최적화 방법
      • Phi-3 mini-4k-instruct-onnx와 함께 WinUI3 앱 제작
      • WinUI3 다중 모델 AI 기반 노트 앱 샘플
      • Prompt flow를 사용하여 맞춤형 Phi-3 모델을 미세 조정 및 통합
      • Azure AI Foundry에서 Prompt flow를 사용하여 맞춤형 Phi-3 모델을 미세 조정 및 통합
      • Microsoft의 책임 있는 AI 원칙을 중심으로 Azure AI Foundry에서 미세 조정된 Phi-3 / Phi-3.5 모델 평가
      • [📓] Phi-3.5-mini-instruct 언어 예측 샘플 (중국어/영어)
      • Phi-3.5-Instruct WebGPU RAG 챗봇
      • Windows GPU를 사용하여 Phi-3.5-Instruct ONNX와 함께 Prompt flow 솔루션 생성
      • Microsoft Phi-3.5 tflite를 사용하여 Android 앱 생성
      • Microsoft.ML.OnnxRuntime을 사용하여 로컬 ONNX Phi-3 모델로 Q&A .NET 예제
      • Semantic Kernel과 Phi-3를 사용한 .NET 콘솔 채팅 앱

  • Azure AI Inference SDK 코드 기반 샘플

    • Phi-4 샘플 🆕
      • [📓] Phi-4-multimodal을 사용하여 프로젝트 코드 생성
    • Phi-3 / 3.5 샘플
      • Microsoft Phi-3 패밀리를 사용하여 나만의 Visual Studio Code GitHub Copilot Chat 빌드
      • GitHub 모델로 Phi-3.5를 사용하여 Visual Studio Code Chat Copilot 에이전트 생성

  • 고급 추론 샘플

    • Phi-4 샘플 🆕
      • [📓] Phi-4-mini 추론 샘플

  • 데모

    • Hugging Face Spaces에서 호스팅되는 Phi-4-mini 데모
    • Hugging Face Spaces에서 호스팅되는 Phi-4-multimodal 데모

  • 비전 샘플

    • Phi-4 샘플 🆕
      • [📓] Phi-4-multimodal을 사용하여 이미지 읽기 및 코드 생성
    • Phi-3 / 3.5 샘플

• [📓]Phi-3-vision-Image text to text - Phi-3-vision-ONNX - [📓]Phi-3-vision CLIP Embedding - DEMO: Phi-3 Recycling - Phi-3-vision - 시각적 언어 어시스턴트 - Phi3-Vision과 OpenVINO 활용 - Phi-3 Vision Nvidia NIM - Phi-3 Vision OpenVino - [📓]Phi-3.5 Vision 다중 프레임 또는 다중 이미지 샘플 - Phi-3 Vision Microsoft.ML.OnnxRuntime .NET을 활용한 로컬 ONNX 모델 - Microsoft.ML.OnnxRuntime .NET을 활용한 메뉴 기반 Phi-3 Vision 로컬 ONNX 모델

  • 오디오 샘플

    • Phi-4 샘플 🆕
      • [📓] Phi-4-multimodal을 활용한 오디오 텍스트 추출
      • [📓] Phi-4-multimodal 오디오 샘플
      • [📓] Phi-4-multimodal 음성 번역 샘플
      • .NET 콘솔 애플리케이션을 활용하여 Phi-4-multimodal 오디오 파일 분석 및 텍스트 생성

  • MOE 샘플

    • Phi-3 / 3.5 샘플
      • [📓] Phi-3.5 Mixture of Experts Models (MoEs) 소셜 미디어 샘플
      • [📓] NVIDIA NIM Phi-3 MOE, Azure AI Search, 및 LlamaIndex를 활용한 Retrieval-Augmented Generation (RAG) 파이프라인 구축

  • 함수 호출 샘플

    • Phi-4 샘플 🆕
      • [📓] Phi-4-mini를 활용한 함수 호출 사용
      • [📓] Phi-4-mini를 활용한 다중 에이전트 생성 함수 호출 사용
      • [📓] Ollama를 활용한 함수 호출 사용

  • 멀티모달 믹싱 샘플

    • Phi-4 샘플 🆕
      • [📓] Phi-4-multimodal을 활용하여 기술 저널리스트로 활동
      • .NET 콘솔 애플리케이션을 활용하여 Phi-4-multimodal로 이미지 분석

• Phi 샘플 세부 조정

  • 세부 조정 시나리오
  • 세부 조정 vs RAG
  • Phi-3를 산업 전문가로 만들기 위한 세부 조정
  • VS Code용 AI Toolkit을 활용한 Phi-3 세부 조정
  • Azure Machine Learning Service를 활용한 Phi-3 세부 조정
  • Lora를 활용한 Phi-3 세부 조정
  • QLora를 활용한 Phi-3 세부 조정
  • Azure AI Foundry를 활용한 Phi-3 세부 조정
  • Azure ML CLI/SDK를 활용한 Phi-3 세부 조정

• Microsoft Olive을 활용한 파인튜닝

  • Microsoft Olive 핸즈온 랩을 활용한 파인튜닝
  • Weights and Bias를 활용한 Phi-3-vision 파인튜닝
  • Apple MLX Framework을 활용한 Phi-3 파인튜닝
  • Phi-3-vision 파인튜닝 (공식 지원)
  • Kaito AKS 및 Azure Containers를 활용한 Phi-3 파인튜닝 (공식 지원)
  • Phi-3 및 3.5 Vision 파인튜닝

• 핸즈온 랩

  • 최신 모델 탐색: LLMs, SLMs, 로컬 개발 및 기타
  • NLP 잠재력 해제: Microsoft Olive을 활용한 파인튜닝

• 학술 연구 논문 및 출판물

  • 교과서만으로 충분하다 II: phi-1.5 기술 보고서
  • Phi-3 기술 보고서: 휴대폰에서 로컬로 실행 가능한 고성능 언어 모델
  • Phi-4 기술 보고서
  • Phi-4-Mini 기술 보고서: Mixture-of-LoRAs를 활용한 강력한 멀티모달 언어 모델
  • 차량 내 기능 호출을 위한 소형 언어 모델 최적화
  • (WhyPHI) Phi-3의 선택형 질문 답변 파인튜닝: 방법론, 결과 및 도전 과제

Phi 모델 사용하기

Azure AI Foundry에서 Phi

Microsoft Phi를 사용하는 방법과 다양한 하드웨어 장치에서 E2E 솔루션을 구축하는 방법을 배울 수 있습니다. Phi를 직접 경험하려면 모델을 테스트하고 사용자의 시나리오에 맞게 Phi를 커스터마이징해보세요. Azure AI Foundry Azure AI Model Catalog를 통해 시작할 수 있으며, Azure AI Foundry 시작하기에서 자세히 알아볼 수 있습니다.

Playground
각 모델은 전용 테스트 공간을 가지고 있습니다. Azure AI Playground를 확인해보세요.

GitHub Models에서 Phi

Microsoft Phi를 사용하는 방법과 다양한 하드웨어 장치에서 E2E 솔루션을 구축하는 방법을 배울 수 있습니다. Phi를 직접 경험하려면 모델을 테스트하고 사용자의 시나리오에 맞게 Phi를 커스터마이징해보세요. GitHub Model Catalog를 통해 시작할 수 있으며, GitHub Model Catalog 시작하기에서 자세히 알아볼 수 있습니다.

Playground
각 모델은 전용 테스트 공간을 가지고 있습니다.

Hugging Face에서 Phi

모델은 Hugging Face에서도 확인할 수 있습니다.

Playground
Hugging Chat 테스트 공간을 확인해보세요.

책임 있는 AI

Microsoft는 고객이 AI 제품을 책임감 있게 사용할 수 있도록 돕고, 학습 내용을 공유하며, 투명성 노트 및 영향 평가와 같은 도구를 통해 신뢰 기반의 파트너십을 구축하기 위해 노력하고 있습니다. 이러한 리소스는 https://aka.ms/RAI에서 확인할 수 있습니다.
Microsoft의 책임 있는 AI 접근법은 공정성, 신뢰성 및 안전성, 프라이버시와 보안, 포용성, 투명성, 책임감이라는 AI 원칙에 기반을 두고 있습니다.

대규모 자연어, 이미지, 음성 모델은 불공정하거나 신뢰할 수 없거나 불쾌한 방식으로 작동할 가능성이 있으며, 이는 피해를 초래할 수 있습니다. 위험 및 제한 사항에 대해 알고 싶다면 Azure OpenAI 서비스 투명성 노트를 참고하세요.

이러한 위험을 완화하기 위한 권장 접근법은 유해한 행동을 감지하고 방지할 수 있는 안전 시스템을 아키텍처에 포함하는 것입니다. Azure AI Content Safety는 독립적인 보호 계층을 제공하며, 애플리케이션 및 서비스에서 사용자 생성 및 AI 생성 콘텐츠의 유해성을 감지할 수 있습니다. Azure AI Content Safety는 텍스트 및 이미지 API를 포함하며, 유해한 자료를 감지할 수 있습니다. Azure AI Foundry 내에서 Content Safety 서비스는 다양한 모달리티에서 유해 콘텐츠를 감지하는 샘플 코드를 탐색하고 시도할 수 있는 기능을 제공합니다. 빠른 시작 문서를 통해 서비스 요청 방법을 안내받을 수 있습니다.

또한 고려해야 할 또 다른 측면은 전체 애플리케이션 성능입니다. 멀티모달 및 멀티모델 애플리케이션의 경우 성능은 시스템이 사용자와 사용자의 기대에 부합하며 유해한 출력을 생성하지 않는 것을 의미합니다. Performance and Quality 및 Risk and Safety 평가자를 사용하여 전체 애플리케이션 성능을 평가하는 것이 중요합니다. 또한 맞춤형 평가자를 생성하고 평가할 수 있습니다. Azure AI Evaluation SDK를 사용하여 개발 환경에서 AI 애플리케이션을 평가할 수 있습니다. 테스트 데이터셋이나 목표를 기반으로, 생성형 AI 애플리케이션의 결과물은 기본 제공 평가기나 사용자가 선택한 맞춤 평가기를 통해 정량적으로 측정됩니다. Azure AI Evaluation SDK를 사용하여 시스템을 평가하려면 빠른 시작 가이드를 따라 시작할 수 있습니다. 평가 실행을 완료한 후, Azure AI Foundry에서 결과를 시각화할 수 있습니다.

상표

이 프로젝트는 프로젝트, 제품 또는 서비스와 관련된 상표나 로고를 포함할 수 있습니다. Microsoft 상표나 로고의 허가된 사용은 Microsoft 상표 및 브랜드 지침을 준수해야 하며, 이를 따라야 합니다. 이 프로젝트의 수정된 버전에서 Microsoft 상표나 로고를 사용하는 경우, 혼란을 초래하거나 Microsoft의 후원을 암시해서는 안 됩니다. 제삼자의 상표나 로고를 사용하는 경우, 해당 제삼자의 정책을 따라야 합니다.

면책 조항:
이 문서는 AI 번역 서비스 Co-op Translator를 사용하여 번역되었습니다. 정확성을 위해 최선을 다하고 있지만, 자동 번역에는 오류나 부정확성이 포함될 수 있습니다. 원본 문서를 해당 언어로 작성된 문서로 간주해야 하며, 중요한 정보에 대해서는 전문적인 인간 번역을 권장합니다. 이 번역 사용으로 인해 발생하는 오해나 잘못된 해석에 대해 당사는 책임을 지지 않습니다.