Zaloguj się
Wszystkie
29 marca 2023
816
OpenAI
Stosowana w ramach usługi ChatGPT biblioteka redis-py stanowi interfejs oprogramowania Redis, które służy do buforowania informacji o użytkownikach. Dzięki niej sprawdzanie bazy danych w odpowiedzi na żądania użytkowników są maksymalnie ograniczane. Dla dogodnej obsługi tych żądań używa się Redis Cluster powołujący instacje Redis. Jest to osiągane przy bibliotece Asyncio, która współpracuje z biblioteką redis-py na serwerze przeznaczonym do prztwarzania żądań od użytkowników usługi ChatGPT. Ostatnia biblioteka rezerwuje ważkie połączenia między serwerem, a Redis Cluster. Każde z żądań trafia do kolejki przychodzącej, a odpowiedzi są zwracane przez kolejkę wychodzącą. Po przesłaniu odpowiedzi dochodzi do zwolnienia połączenia. Jednak jeżeli żądanie zostanie anulowane w kolejce przychodzącej to związana z nim odpowiedź staje się nieprzypisana. Następuje anulowanie połączeń do Redis Cluster, co prowadzi do konieczności ponownego przesłania żądań na serwer. Nieprzypisana odpowiedź zostaje na serwerze. Może zostać ona zwrócona, z kolejki wychodzącej, w obliczu przyjścia innego żądania. Jest to ważki błąd, który zmusił firmę OpenAI do wyłączenia usługi ChatGPT w zeszłym tygodniu. Firma wprowadziła nowe rozwiązania sprawdzające, czy różne odpowiedzi trafiają do właściwych użytkowników. Wprowadzono łatkę do biblioteki redis-py, aby nie dochodziło w przyszłości do wycieków danych.
Więcej informacji pod adresem: openai.com
Facebook
Twitter
Linkedin
Kup teraz
