/
alt3rmann
/
LibreChat
Обзор
Документация
Войти
/
alt3rmann
/
LibreChat
Код
Запросы
0
Задачи
Вики
Пакеты
0
Релизы
0
Аналитика
Безопасность
main
api/server/middleware/moderateText.js
43 строки
1 KB
Danny Avila
🔧 fix: Chat Middleware, Zod Conversion, Auto-Save and S3 URL Refresh (#6720)
04 апр 2025, 03:42
Не верифицирован
04 апр 2025, 03:42
953e973
Код
Авторство
О чём код?
const axios = require('axios'); const { ErrorTypes } = require('librechat-data-provider'); const { isEnabled } = require('~/server/utils'); const denyRequest = require('./denyRequest'); const { logger } = require('~/config'); async function moderateText(req, res, next) { if (!isEnabled(process.env.OPENAI_MODERATION)) { return next(); } try { const { text } = req.body; const response = await axios.post( process.env.OPENAI_MODERATION_REVERSE_PROXY || 'https://api.openai.com/v1/moderations', { input: text, }, { headers: { 'Content-Type': 'application/json', Authorization: `Bearer ${process.env.OPENAI_MODERATION_API_KEY}`, }, }, ); const results = response.data.results; const flagged = results.some((result) => result.flagged); if (flagged) { const type = ErrorTypes.MODERATION; const errorMessage = { type }; return await denyRequest(req, res, errorMessage); } } catch (error) { logger.error('Error in moderateText:', error); const errorMessage = 'error in moderation check'; return await denyRequest(req, res, errorMessage); } next(); } module.exports = moderateText;