chatService.ts 5.3 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165
  1. export interface ChatMessage {
  2. role: 'user' | 'assistant';
  3. content: string;
  4. }
  5. export interface ChatSource {
  6. fileName: string;
  7. content: string;
  8. score: number;
  9. chunkIndex: number;
  10. fileId?: string;
  11. }
  12. export class ChatService {
  13. async *streamChat(
  14. message: string,
  15. history: ChatMessage[],
  16. authToken: string,
  17. userLanguage: string = 'ja',
  18. selectedEmbeddingId?: string,
  19. selectedLLMId?: string, // 追加: 選択された LLM ID
  20. selectedGroups?: string[], // 追加: 選択されたグループ
  21. selectedFiles?: string[], // 追加: 選択されたファイル
  22. historyId?: string, // 追加: 会話履歴 ID
  23. enableRerank?: boolean, // 追加: Rerank を有効にする
  24. selectedRerankId?: string, // 追加: Rerank モデル ID
  25. temperature?: number, // 追加: temperature パラメータ
  26. maxTokens?: number, // 追加: maxTokens パラメータ
  27. topK?: number, // 追加: topK パラメータ
  28. similarityThreshold?: number, // 追加: similarityThreshold パラメータ
  29. rerankSimilarityThreshold?: number, // 追加: rerankSimilarityThreshold パラメータ
  30. enableQueryExpansion?: boolean, // 追加
  31. enableHyDE?: boolean // 追加
  32. ): AsyncGenerator<{ type: 'content' | 'sources' | 'error' | 'historyId'; data: any }> {
  33. try {
  34. const response = await fetch('/api/chat/stream', {
  35. method: 'POST',
  36. headers: {
  37. 'Content-Type': 'application/json',
  38. 'Authorization': `Bearer ${authToken}`,
  39. 'x-user-language': userLanguage || localStorage.getItem('userLanguage') || 'ja',
  40. },
  41. body: JSON.stringify({
  42. message,
  43. history,
  44. userLanguage,
  45. selectedEmbeddingId,
  46. selectedLLMId, // Pass LLM ID
  47. selectedGroups, // グループフィルタパラメータを渡す
  48. selectedFiles, // ファイルフィルタパラメータを渡す
  49. historyId, // 履歴 ID を渡す
  50. enableRerank,
  51. selectedRerankId,
  52. temperature, // temperature パラメータを渡す
  53. maxTokens, // maxTokens パラメータを渡す
  54. topK, // topK パラメータを渡す
  55. similarityThreshold, // similarityThreshold パラメータを渡す
  56. rerankSimilarityThreshold, // rerankSimilarityThreshold パラメータを渡す
  57. enableQueryExpansion, // enableQueryExpansion を渡す
  58. enableHyDE // enableHyDE を渡す
  59. }),
  60. });
  61. if (!response.ok) {
  62. let errorMessage = 'リクエストに失敗しました';
  63. try {
  64. const error = await response.json();
  65. errorMessage = error.error || error.message || 'リクエストに失敗しました';
  66. } catch {
  67. errorMessage = `サーバーエラー: ${response.status}`;
  68. }
  69. yield { type: 'error', data: errorMessage };
  70. return;
  71. }
  72. const reader = response.body?.getReader();
  73. if (!reader) {
  74. yield { type: 'error', data: 'レスポンスストリームを読み取れません' };
  75. return;
  76. }
  77. const decoder = new TextDecoder();
  78. let buffer = '';
  79. while (true) {
  80. const { done, value } = await reader.read();
  81. if (done) break;
  82. buffer += decoder.decode(value, { stream: true });
  83. const lines = buffer.split('\n');
  84. buffer = lines.pop() || '';
  85. for (const line of lines) {
  86. if (line.startsWith('data: ')) {
  87. const data = line.slice(6);
  88. if (data === '[DONE]') {
  89. return;
  90. }
  91. try {
  92. const parsed = JSON.parse(data);
  93. yield parsed;
  94. } catch (e) {
  95. console.warn('Failed to parse SSE data:', data);
  96. }
  97. }
  98. }
  99. }
  100. } catch (error) {
  101. yield { type: 'error', data: error.message || 'ネットワークエラー' };
  102. }
  103. }
  104. async *streamAssist(
  105. instruction: string,
  106. context: string,
  107. authToken: string
  108. ): AsyncGenerator<{ type: 'content' | 'error'; data: any }> {
  109. try {
  110. const response = await fetch('/api/chat/assist', {
  111. method: 'POST',
  112. headers: {
  113. 'Content-Type': 'application/json',
  114. 'Authorization': `Bearer ${authToken}`,
  115. 'x-user-language': localStorage.getItem('userLanguage') || 'ja',
  116. },
  117. body: JSON.stringify({ instruction, context }),
  118. });
  119. if (!response.ok) {
  120. yield { type: 'error', data: 'リクエストに失敗しました' };
  121. return;
  122. }
  123. const reader = response.body?.getReader();
  124. if (!reader) return;
  125. const decoder = new TextDecoder();
  126. let buffer = '';
  127. while (true) {
  128. const { done, value } = await reader.read();
  129. if (done) break;
  130. buffer += decoder.decode(value, { stream: true });
  131. const lines = buffer.split('\n');
  132. buffer = lines.pop() || '';
  133. for (const line of lines) {
  134. if (line.startsWith('data: ')) {
  135. const data = line.slice(6);
  136. if (data === '[DONE]') return;
  137. try {
  138. yield JSON.parse(data);
  139. } catch (e) { console.warn(e) }
  140. }
  141. }
  142. }
  143. } catch (error: any) {
  144. yield { type: 'error', data: error.message };
  145. }
  146. }
  147. }
  148. export const chatService = new ChatService();