SciSharp STACK - 데이터 사이언스, 머신러닝 및 AI를 위한 .NET 기반 오픈 소스 에코시스템

🤖 AI/ML/LM 소모임
1

image

SciSharp STACK는 다음의 특징이 있습니다.

  • .NET 개발자가 쉽게 엑세스 할 수 있습니다.
  • 최첨단 머신러닝 프레임워크에 대한 포트 및 바인딩을 제공합니다.
  • 크로스플랫폼을 지원합니다.
  • 오픈소스입니다.

.NET에 AI 관련 오픈소스의 바람이 불까요?

4개의 좋아요
2

ML.NET과 Polyglot Notebook까지 더해지면 아주 훌륭한 조합이 되겠네요!

2개의 좋아요
3

기사를 보고 간단히 따라 해봤습니다. 한국어 모델이 없는 것은 아쉽지만 다음처럼 로컬 자원으로도 대답을 잘 하는 것을 확인할 수 있어요.

using LLama;

var model = new LLamaModel(new LLamaParams(
    model: Path.Combine("..", "..", "..", "..", "wizardLM-7B.ggmlv3.q4_1.bin"),
    n_ctx: 512,
    interactive: true,
    repeat_penalty: 1.0f,
    verbose_prompt: false
    ));

var session = new ChatSession<LLamaModel>(model)
    .WithPrompt("""
        You're an expert on world history and can answer anything related.
        Your name is Dr. Chuck Chuck.

        User:
        """)
    .WithAntiprompt(new[] { "User: " });

Console.WriteLine();
Console.Write("User: ");
while (true)
{
    Console.ForegroundColor = ConsoleColor.Green;
    var prompt = Console.ReadLine() + "\n";

    Console.ForegroundColor = ConsoleColor.White;
    foreach (var output in session.Chat(prompt, encoding: "UTF-8"))
    {
        Console.Write(output);
    }
}

image

2개의 좋아요
4

손대면 본업이 흔들릴까바 손대지 않고 있는데…
뭐, 그것도 인내력의 한계가 곧 올 것 같습니다. ㅋㅋ

2개의 좋아요