Changed Mistral LLM to mistral-8b-2512. Changed timeout for LMM in .env
This commit is contained in:
@@ -2,7 +2,7 @@ import { Injectable, Logger, ServiceUnavailableException } from '@nestjs/common'
|
||||
import { FlatCategory } from '../categories/categories.service';
|
||||
|
||||
const MISTRAL_API_URL = 'https://api.mistral.ai/v1/chat/completions';
|
||||
export const AI_CATEGORIZATION_MODEL = 'mistral-tiny';
|
||||
export const AI_CATEGORIZATION_MODEL = 'mistral-8b-2512';
|
||||
const MODEL = AI_CATEGORIZATION_MODEL;
|
||||
|
||||
export type CategorySuggestion = {
|
||||
|
||||
@@ -56,7 +56,7 @@ export class AiFlyerParserService {
|
||||
}
|
||||
|
||||
/**
|
||||
* Skickar flyer-text till Mistral Tiny för strukturerad extraktion.
|
||||
* Skickar flyer-text till mistral-8b-2512 för strukturerad extraktion.
|
||||
*
|
||||
* @param text Text från flyern (från pdf-parse eller OCR)
|
||||
* @returns Array av parsade produkter
|
||||
@@ -169,7 +169,7 @@ Extrahera ALL produktinformation från följande text och returnera den som en J
|
||||
För varje produkt, inkludera:
|
||||
- name: Produktnamn (fullständigt namn)
|
||||
- weight: Vikt (om tillgänglig, t.ex. "150g", "Ca 1kg") eller null
|
||||
- origin: Ursprung/land/märke (om tillgänglig, t.ex. "FALKENBERG") eller null
|
||||
- origin: Ursprung/land/märke (om tillgänglig, t.ex. "Grönland") eller null
|
||||
- price: Pris som nummer (t.ex. 39.90) eller null
|
||||
- comparisonPrice: Jämförpris som nummer (t.ex. 266.00) eller null
|
||||
- unit: Enhet (kg, st, förp, l, etc.) eller null
|
||||
@@ -187,7 +187,7 @@ Exempel på utdata:
|
||||
{
|
||||
"name": "KALLRÖKT LAX, GRAVAD LAX",
|
||||
"weight": "150g",
|
||||
"origin": "FALKENBERG",
|
||||
"origin": "Grönland",
|
||||
"price": 39.90,
|
||||
"comparisonPrice": 266.00,
|
||||
"unit": "kg",
|
||||
@@ -315,7 +315,7 @@ Exempel på utdata:
|
||||
|
||||
const response = await this.withTimeout<any>(
|
||||
client.chat({
|
||||
model: 'mistral-tiny',
|
||||
model: 'mistral-8b-2512',
|
||||
messages: [{ role: 'user', content: prompt }],
|
||||
temperature: 0.1,
|
||||
}),
|
||||
|
||||
@@ -666,7 +666,7 @@ Regler:
|
||||
Authorization: `Bearer ${apiKey}`,
|
||||
},
|
||||
body: JSON.stringify({
|
||||
model: 'mistral-small-latest',
|
||||
model: 'mistral-8b-2512',
|
||||
messages: [
|
||||
{ role: 'system', content: systemPrompt },
|
||||
{ role: 'user', content: userPrompt },
|
||||
|
||||
Reference in New Issue
Block a user