Skip to content

Response result field is null if the LLM returns text with \n #15

@ubuntudroid

Description

@ubuntudroid

It looks like for LLM responses with line breaks, the HTTP response's result field is null, although the last history item contains the full LLM response.

I had this happen for the following result:

{
    "history": [
           ...
           {
                "prompt": "Schreibe ein Gedicht über die Stadtverwaltung Duisburg",
                "response": "Die Stadtverwaltung von Duisburg\nVon dort kommt unsere Rechtsgewalt,\nViele Regeln und Gesetze,\nGeben uns hier Geborgenheit.\n\nVon Verwaltungsgebäuden umgeben,\nIn denen alles regelt sich,\nDa können wir uns beraten lassen,\nWenn uns etwas nicht gefällt.\n\nGesetze werden hier erlassen,\nDie uns Sicherheit verschaffen,\nDamit wir in Freiheit leben können,\nSie sorgen für uns alle.\n\nGesetze und Regeln machen uns stark,\nWir haben hier ein Zuhause,\nDa können wir uns bewegen und wachsen,\nUnter der Obhut der Stadtverwaltung."
            }
    ],
    ...
    "result": null,
    ...
}

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions