Install Ollama with GPU acceleration on Windows:
docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
Run the llama2 LLM:
docker exec -it ollama ollama run llama2
Run the llava (image to text) model:
docker exec -it ollama ollama run llava