chatService.ts 5.3 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166
  1. export interface ChatMessage {
  2. role: 'user' | 'assistant';
  3. content: string;
  4. }
  5. export interface ChatSource {
  6. fileName: string;
  7. title?: string;
  8. content: string;
  9. score: number;
  10. chunkIndex: number;
  11. fileId?: string;
  12. }
  13. export class ChatService {
  14. async *streamChat(
  15. message: string,
  16. history: ChatMessage[],
  17. authToken: string,
  18. userLanguage: string = 'ja',
  19. selectedEmbeddingId?: string,
  20. selectedLLMId?: string, // 追加: 選択された LLM ID
  21. selectedGroups?: string[], // 追加: 選択されたグループ
  22. selectedFiles?: string[], // 追加: 選択されたファイル
  23. historyId?: string, // 追加: 会話履歴 ID
  24. enableRerank?: boolean, // 追加: Rerank を有効にする
  25. selectedRerankId?: string, // 追加: Rerank モデル ID
  26. temperature?: number, // 追加: temperature パラメータ
  27. maxTokens?: number, // 追加: maxTokens パラメータ
  28. topK?: number, // 追加: topK パラメータ
  29. similarityThreshold?: number, // 追加: similarityThreshold パラメータ
  30. rerankSimilarityThreshold?: number, // 追加: rerankSimilarityThreshold パラメータ
  31. enableQueryExpansion?: boolean, // 追加
  32. enableHyDE?: boolean // 追加
  33. ): AsyncGenerator<{ type: 'content' | 'sources' | 'error' | 'historyId'; data: any }> {
  34. try {
  35. const response = await fetch('/api/chat/stream', {
  36. method: 'POST',
  37. headers: {
  38. 'Content-Type': 'application/json',
  39. 'Authorization': `Bearer ${authToken}`,
  40. 'x-user-language': userLanguage || localStorage.getItem('userLanguage') || 'ja',
  41. },
  42. body: JSON.stringify({
  43. message,
  44. history,
  45. userLanguage,
  46. selectedEmbeddingId,
  47. selectedLLMId, // Pass LLM ID
  48. selectedGroups, // グループフィルタパラメータを渡す
  49. selectedFiles, // ファイルフィルタパラメータを渡す
  50. historyId, // 履歴 ID を渡す
  51. enableRerank,
  52. selectedRerankId,
  53. temperature, // temperature パラメータを渡す
  54. maxTokens, // maxTokens パラメータを渡す
  55. topK, // topK パラメータを渡す
  56. similarityThreshold, // similarityThreshold パラメータを渡す
  57. rerankSimilarityThreshold, // rerankSimilarityThreshold パラメータを渡す
  58. enableQueryExpansion, // enableQueryExpansion を渡す
  59. enableHyDE // enableHyDE を渡す
  60. }),
  61. });
  62. if (!response.ok) {
  63. let errorMessage = 'リクエストに失敗しました';
  64. try {
  65. const error = await response.json();
  66. errorMessage = error.error || error.message || 'リクエストに失敗しました';
  67. } catch {
  68. errorMessage = `サーバーエラー: ${response.status}`;
  69. }
  70. yield { type: 'error', data: errorMessage };
  71. return;
  72. }
  73. const reader = response.body?.getReader();
  74. if (!reader) {
  75. yield { type: 'error', data: 'レスポンスストリームを読み取れません' };
  76. return;
  77. }
  78. const decoder = new TextDecoder();
  79. let buffer = '';
  80. while (true) {
  81. const { done, value } = await reader.read();
  82. if (done) break;
  83. buffer += decoder.decode(value, { stream: true });
  84. const lines = buffer.split('\n');
  85. buffer = lines.pop() || '';
  86. for (const line of lines) {
  87. if (line.startsWith('data: ')) {
  88. const data = line.slice(6);
  89. if (data === '[DONE]') {
  90. return;
  91. }
  92. try {
  93. const parsed = JSON.parse(data);
  94. yield parsed;
  95. } catch (e) {
  96. console.warn('Failed to parse SSE data:', data);
  97. }
  98. }
  99. }
  100. }
  101. } catch (error) {
  102. yield { type: 'error', data: error.message || 'ネットワークエラー' };
  103. }
  104. }
  105. async *streamAssist(
  106. instruction: string,
  107. context: string,
  108. authToken: string
  109. ): AsyncGenerator<{ type: 'content' | 'error'; data: any }> {
  110. try {
  111. const response = await fetch('/api/chat/assist', {
  112. method: 'POST',
  113. headers: {
  114. 'Content-Type': 'application/json',
  115. 'Authorization': `Bearer ${authToken}`,
  116. 'x-user-language': localStorage.getItem('userLanguage') || 'ja',
  117. },
  118. body: JSON.stringify({ instruction, context }),
  119. });
  120. if (!response.ok) {
  121. yield { type: 'error', data: 'リクエストに失敗しました' };
  122. return;
  123. }
  124. const reader = response.body?.getReader();
  125. if (!reader) return;
  126. const decoder = new TextDecoder();
  127. let buffer = '';
  128. while (true) {
  129. const { done, value } = await reader.read();
  130. if (done) break;
  131. buffer += decoder.decode(value, { stream: true });
  132. const lines = buffer.split('\n');
  133. buffer = lines.pop() || '';
  134. for (const line of lines) {
  135. if (line.startsWith('data: ')) {
  136. const data = line.slice(6);
  137. if (data === '[DONE]') return;
  138. try {
  139. yield JSON.parse(data);
  140. } catch (e) { console.warn(e) }
  141. }
  142. }
  143. }
  144. } catch (error: any) {
  145. yield { type: 'error', data: error.message };
  146. }
  147. }
  148. }
  149. export const chatService = new ChatService();