ollama/ollama-python
1
0
Fork 0
mirror of https://github.com/ollama/ollama-python.git synced 2026-07-21 09:05:23 -04:00
Code Issues 101 Packages Projects Releases 10 Wiki Activity

🐛 Custom modelfile Regression causing ResponseError: command must be one of "from", "license", #133

New Issue
Closed
opened 2026-02-15 16:28:13 -05:00 by yindo · 5 comments
yindo commented 2026-02-15 16:28:13 -05:00
Owner
Copy Link
Copy Source

Originally created by @adriens on GitHub (Aug 24, 2024).

❔ About

I've re-run my Notebook to try llama3.1...but was not able to run my Notebook anymore.

Below the code to reproduce :


TARGET_MODEL='llama3.1'

# Then build the modelfile
modelfile='''FROM ''' + TARGET_MODEL + '''
SYSTEM """Tu es un expert en ressources humaines. Ta spécialité est de lier des activités ou des sujets au
référentiel des codes ROME de France Travail.

A chaque fois qu'on te pose une question tu réponds la liste des codes ROME qui sont en lien.

Réponds avec un fichier json et UNIQUEMENT avec un fichier json : n'explique pas ni ne commente.

Exemple:

Pour "Base De Données.", tu répondras avec un json valide structuré de la manière suivante et en mettant autant d'items que nécessaire,
Ci-dessous un exemple avec trois items:

[
  {
    "proposition_metier_lie": "Administrateur de bases de données",
    "rome_code_domaine_professionnel_3_chars": "M1802"
  },
  {
    "proposition_metier_lie": "Architecte système d'informtion",
    "rome_code_domaine_professionnel_3_chars": "M1802"
  },
  {
    "proposition_metier_lie": "Développeur/développeuse",
    "rome_code_domaine_professionnel_3_chars": "M1805"
  },
  ...
]
"""

Très important : plus le json sera complet, meilleures seront les analyses produites par la suite par le data-analyste.
'''

# Create the model
ollama.create(model='rome-expert', modelfile=modelfile)

image

... causes :

File /opt/conda/lib/python3.10/site-packages/ollama/_client.py:73, in Client._request(self, method, url, **kwargs)
     71   response.raise_for_status()
     72 except httpx.HTTPStatusError as e:
---> 73   raise ResponseError(e.response.text, e.response.status_code) from None
     75 return response

ResponseError: command must be one of "from", "license", "template", "system", "adapter", "parameter", or "message"

image

Originally created by @adriens on GitHub (Aug 24, 2024). # :grey_question: About I've re-run my Notebook to try `llama3.1`...but was not able to run my Notebook anymore. Below the code to reproduce : ```python TARGET_MODEL='llama3.1' # Then build the modelfile modelfile='''FROM ''' + TARGET_MODEL + ''' SYSTEM """Tu es un expert en ressources humaines. Ta spécialité est de lier des activités ou des sujets au référentiel des codes ROME de France Travail. A chaque fois qu'on te pose une question tu réponds la liste des codes ROME qui sont en lien. Réponds avec un fichier json et UNIQUEMENT avec un fichier json : n'explique pas ni ne commente. Exemple: Pour "Base De Données.", tu répondras avec un json valide structuré de la manière suivante et en mettant autant d'items que nécessaire, Ci-dessous un exemple avec trois items: [ { "proposition_metier_lie": "Administrateur de bases de données", "rome_code_domaine_professionnel_3_chars": "M1802" }, { "proposition_metier_lie": "Architecte système d'informtion", "rome_code_domaine_professionnel_3_chars": "M1802" }, { "proposition_metier_lie": "Développeur/développeuse", "rome_code_domaine_professionnel_3_chars": "M1805" }, ... ] """ Très important : plus le json sera complet, meilleures seront les analyses produites par la suite par le data-analyste. ''' # Create the model ollama.create(model='rome-expert', modelfile=modelfile) ``` ![image](https://github.com/user-attachments/assets/0be9807d-d8bd-4aea-8b2c-e2120c7c21e9) ... causes : ``` File /opt/conda/lib/python3.10/site-packages/ollama/_client.py:73, in Client._request(self, method, url, **kwargs) 71 response.raise_for_status() 72 except httpx.HTTPStatusError as e: ---> 73 raise ResponseError(e.response.text, e.response.status_code) from None 75 return response ResponseError: command must be one of "from", "license", "template", "system", "adapter", "parameter", or "message" ``` ![image](https://github.com/user-attachments/assets/de4b1464-5aa1-4b7d-9c0c-f47453b710b9)
yindo closed this issue 2026-02-15 16:28:13 -05:00
yindo commented 2026-02-15 16:28:13 -05:00
Author
Owner
Copy Link
Copy Source

@jmorganca commented on GitHub (Aug 24, 2024):

Sorry @adriens will look into this!

@jmorganca commented on GitHub (Aug 24, 2024): Sorry @adriens will look into this!
yindo commented 2026-02-15 16:28:13 -05:00
Author
Owner
Copy Link
Copy Source

@jmorganca commented on GitHub (Aug 24, 2024):

I think it's because you have the Très important outside of the triple quotes for SYSTEM

Dis-moi si ça vous aide 😊

@jmorganca commented on GitHub (Aug 24, 2024): I think it's because you have the `Très important` outside of the triple quotes for `SYSTEM` Dis-moi si ça vous aide 😊
yindo commented 2026-02-15 16:28:13 -05:00
Author
Owner
Copy Link
Copy Source

@adriens commented on GitHub (Aug 24, 2024):

"Dis-moi si ça vous aide 😊"

Mais vous parlez très bien 🇫🇷 😸

@adriens commented on GitHub (Aug 24, 2024): > "Dis-moi si ça vous aide 😊" Mais vous parlez très bien :fr: :smile_cat:
yindo commented 2026-02-15 16:28:13 -05:00
Author
Owner
Copy Link
Copy Source

@adriens commented on GitHub (Aug 24, 2024):

I think it's because you have the Très important outside of the triple quotes for SYSTEM

Indeed !!! I'm running it right now. Will tell you very soon... and close the issue as a PEBCAK

@adriens commented on GitHub (Aug 24, 2024): > I think it's because you have the Très important outside of the triple quotes for SYSTEM Indeed !!! I'm running it right now. Will tell you very soon... and close the issue as a [PEBCAK](https://en.wiktionary.org/wiki/PEBCAK)
yindo commented 2026-02-15 16:28:13 -05:00
Author
Owner
Copy Link
Copy Source

@adriens commented on GitHub (Aug 24, 2024):

Thanks a lot for the fast and cool debug on my typo 🙏
image

@adriens commented on GitHub (Aug 24, 2024): Thanks a lot for the fast and cool debug on my typo :pray: ![image](https://github.com/user-attachments/assets/f04f62fa-8596-49e9-af4b-df20b28ffc74)
Sign in to join this conversation.
No Branch/Tag Specified
Branches Tags
Labels
Clear labels
bug
enhancement
pull-request
Mirrored from GitHub Pull Request
 thinking
No Label
Milestone
No items
No Milestone
Projects
Clear projects
No project
Assignees
Clear assignees
yindo
No Assignees
1 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: ollama/ollama-python#133
Delete Branch "%!s()"

Deleting a branch is permanent. Although the deleted branch may continue to exist for a short time before it actually gets removed, it CANNOT be undone in most cases. Continue?