dream

1
import requests
2
from os import getenv
3

4

5
# ATTENTION!!! This test is only working if you assign `GIGACHAT_CREDENTIALS` env variable
6
GIGACHAT_CREDENTIALS = getenv("GIGACHAT_CREDENTIALS", None)
7
GIGACHAT_SCOPE = getenv("GIGACHAT_SCOPE", None)
8
assert GIGACHAT_CREDENTIALS, print("No GigaChat credentials is given in env vars")
9
DEFAULT_CONFIG = {"max_tokens": 64, "temperature": 0.4, "top_p": 1.0, "frequency_penalty": 0, "presence_penalty": 0}
10
SERVICE_PORT = int(getenv("SERVICE_PORT"))
11

12

13
def test_respond():
14
    url = f"http://0.0.0.0:{SERVICE_PORT}/respond"
15
    contexts = [
16
        [
17
            "Привет! Я Маркус. Как ты сегодня?",
18
            "Привет, Маркус! Я в порядке. Как у тебя?",
19
            "У меня все отлично. Какие у тебя планы на сегодня?",
20
        ],
21
        ["Привет, Маркус! Я в порядке. Как у тебя?", "У меня все отлично. Какие у тебя планы на сегодня?"],
22
    ]
23
    prompts = [
24
        "Отвечай как дружелюбный чатбот.",
25
        "Отвечай как дружелюбный чатбот.",
26
    ]
27
    result = requests.post(
28
        url,
29
        json={
30
            "dialog_contexts": contexts,
31
            "prompts": prompts,
32
            "configs": [DEFAULT_CONFIG] * len(contexts),
33
            "gigachat_credentials": [GIGACHAT_CREDENTIALS] * len(contexts),
34
            "gigachat_scopes": [GIGACHAT_SCOPE] * len(contexts),
35
        },
36
    ).json()
37
    print(result)
38

39
    assert len(result) and [all(len(sample[0]) > 0 for sample in result)], f"Got\n{result}\n, something is wrong"
40
    print("Success!")
41

42

43
if __name__ == "__main__":
44
    test_respond()
45