BAAI/bge-reranker-v2-m3

BAAI/bge-reranker-v2-m3 é um modelo de reranking leve com fortes capacidades multilíngues.

Ver como Markdown

BAAI/bge-reranker-v2-m3 é um modelo de reranking leve com fortes capacidades multilíngues. Ele é fácil de implementar e oferece inferência rápida.

Detalhes do modelo

CategoriaDetalhes
Nome do modeloBAAI/bge-reranker-v2-m3
VersãoOriginal
Categoria do modeloReranker
Tamanho568M parâmetros
Modelo HuggingFaceBAAI/bge-reranker-v2-m3
LicençaApache 2.0

Capacidades

RecursoDetalhes
Comprimento do contexto8k tokens
Suporta LoRA❌
Dados de entradaTexto

Uso

Exemplo de reranking

Este é um exemplo de uma requisição básica de reranking usando este modelo:

const modelResponse = await Azion.AI.run("baai-bge-reranker-v2-m3", {
"query": "What is deep learning?",
"documents": [
"Deep learning is a subset of machine learning that uses neural networks with many layers",
"The weather is nice today",
"Deep learning enables computers to learn from large amounts of data",
"I like pizza"
]
})
PropriedadeTipoDescrição
querystringA consulta ou o prompt para ranquear os documentos.
documentsstring[]Um array de documentos a serem ranqueados com base na sua relevância para a consulta.

Exemplo de pontuação

Este é um exemplo de uma requisição básica de pontuação usando este modelo:

const modelResponse = await Azion.AI.run("baai-bge-reranker-v2-m3", {
"text_1": "What is deep learning?",
"text_2": [
"Deep learning is a subset of machine learning that uses neural networks with many layers",
"The weather is nice today",
"Deep learning enables computers to learn from large amounts of data",
"I like pizza"
]
})
PropriedadeTipoDescrição
text_1stringO primeiro input de texto para o modelo processar.
text_2string[]Um array de inputs de texto para o modelo processar e dar uma pontuação.

Exemplo de resposta:

{
"id": "rerank-356bf11f0e794f3c8f726bec7ba698bb",
"model": "baai-bge-reranker-v2-m3",
"usage": {
"total_tokens": 78
},
"results": [
{
"index": 0,
"document": {
"text": "Deep learning is a subset of machine learning that uses neural networks with many layers"
},
"relevance_score": 0.99951171875
},
{
"index": 2,
"document": {
"text": "Deep learning enables computers to learn from large amounts of data"
},
"relevance_score": 0.98291015625
},
{
"index": 3,
"document": {
"text": "I like pizza"
},
"relevance_score": 0.00001621246337890625
},
{
"index": 1,
"document": {
"text": "The weather is nice today"
},
"relevance_score": 0.000016033649444580078
}
]
}
PropriedadeTipoDescrição
idstringIdentificador único para a requisição de rerank.
modelstringO nome do modelo usado para rerank.
usage.total_tokensnumberO número total de tokens usados na requisição.
results[]object[]Um array de resultado com os objetos reranqueados.
results[].indexnumberO índice do documento na lista de entrada.
results[].documentobjectO objeto do documento contendo o texto.
results[].document.textstringO conteúdo textual do documento.
results[].relevance_scorenumberA pontuação de relevância atribuída ao documento pelo modelo.

Schema JSON

{
"$schema": "http://json-schema.org/draft-07/schema#",
"type": "object",
"required": [
"query",
"documents"
],
"properties": {
"query": {
"type": "string"
},
"documents": {
"type": "array",
"items": {
"type": "string"
}
},
"top_n": {
"type": "integer"
},
"max_tokens_per_doc": {
"type": "integer"
}
}
}