Task #15975
closedZugriff auf Ollama Instanz
0%
Description
Schon wieder ich.
Jetzt bräuchte ich noch einen Zugriff auf unsere Ollama Instanz. Wir würden das gerne innerhalb einer Webanwendung einbinden.
Benötigt ihr sonst noch weitere Informationen dazu?
BS Updated by Benjamin Schmitz about 2 months ago
Hi [~ge37joh],
hier ist unsere Dokumentation zu dem Zugriff auf die Ollama: https://confluence.aet.cit.tum.de/x/58rLCw
Gerade wenn es aber eine eigene Anwendung ist, ist es vermutlich unpraktisch, wenn der API Token zu einem konkreten TUM-Account gehört.
Wir können auch unabhängig Zugriff geben: https://confluence.aet.cit.tum.de/spaces/IKS/pages/197905127/LLMs+LS1#LLMs%40LS1-OllamaAPIforArtemisandProductionApps(gpu-artemis.ase.cit.tum.de%2Follama)
Dafür müsstest du uns einen Passwort-Hash und Username schicken. Hier die Dokumentation wie das Erstellen von dem Hash funktioniert: https://docs.nginx.com/nginx/admin-guide/security-controls/configuring-http-basic-authentication/#creating-a-password-file
Mit dem dazugehörigen Passwort könnt ihr dann mittels Basic Auth auf Ollama zugreifen.