chatService.ts 5.1 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161
  1. export interface ChatMessage {
  2. role: 'user' | 'assistant';
  3. content: string;
  4. }
  5. export interface ChatSource {
  6. fileName: string;
  7. content: string;
  8. score: number;
  9. chunkIndex: number;
  10. fileId?: string;
  11. }
  12. export class ChatService {
  13. async *streamChat(
  14. message: string,
  15. history: ChatMessage[],
  16. authToken: string,
  17. userLanguage: string = 'ja',
  18. selectedEmbeddingId?: string,
  19. selectedLLMId?: string, // 追加: 選択された LLM ID
  20. selectedGroups?: string[], // 追加: 選択されたグループ
  21. selectedFiles?: string[], // 追加: 選択されたファイル
  22. historyId?: string, // 追加: 会話履歴 ID
  23. enableRerank?: boolean, // 追加: Rerank を有効にする
  24. selectedRerankId?: string, // 追加: Rerank モデル ID
  25. temperature?: number, // 追加: temperature パラメータ
  26. maxTokens?: number, // 追加: maxTokens パラメータ
  27. topK?: number, // 追加: topK パラメータ
  28. similarityThreshold?: number, // 追加: similarityThreshold パラメータ
  29. rerankSimilarityThreshold?: number // 追加: rerankSimilarityThreshold パラメータ
  30. ): AsyncGenerator<{ type: 'content' | 'sources' | 'error' | 'historyId'; data: any }> {
  31. try {
  32. const response = await fetch('/api/chat/stream', {
  33. method: 'POST',
  34. headers: {
  35. 'Content-Type': 'application/json',
  36. 'Authorization': `Bearer ${authToken}`,
  37. 'x-user-language': userLanguage || localStorage.getItem('userLanguage') || 'ja',
  38. },
  39. body: JSON.stringify({
  40. message,
  41. history,
  42. userLanguage,
  43. selectedEmbeddingId,
  44. selectedLLMId, // Pass LLM ID
  45. selectedGroups, // グループフィルタパラメータを渡す
  46. selectedFiles, // ファイルフィルタパラメータを渡す
  47. historyId, // 履歴 ID を渡す
  48. enableRerank,
  49. selectedRerankId,
  50. temperature, // temperature パラメータを渡す
  51. maxTokens, // maxTokens パラメータを渡す
  52. topK, // topK パラメータを渡す
  53. similarityThreshold, // similarityThreshold パラメータを渡す
  54. rerankSimilarityThreshold // rerankSimilarityThreshold パラメータを渡す
  55. }),
  56. });
  57. if (!response.ok) {
  58. let errorMessage = 'リクエストに失敗しました';
  59. try {
  60. const error = await response.json();
  61. errorMessage = error.error || error.message || 'リクエストに失敗しました';
  62. } catch {
  63. errorMessage = `サーバーエラー: ${response.status}`;
  64. }
  65. yield { type: 'error', data: errorMessage };
  66. return;
  67. }
  68. const reader = response.body?.getReader();
  69. if (!reader) {
  70. yield { type: 'error', data: 'レスポンスストリームを読み取れません' };
  71. return;
  72. }
  73. const decoder = new TextDecoder();
  74. let buffer = '';
  75. while (true) {
  76. const { done, value } = await reader.read();
  77. if (done) break;
  78. buffer += decoder.decode(value, { stream: true });
  79. const lines = buffer.split('\n');
  80. buffer = lines.pop() || '';
  81. for (const line of lines) {
  82. if (line.startsWith('data: ')) {
  83. const data = line.slice(6);
  84. if (data === '[DONE]') {
  85. return;
  86. }
  87. try {
  88. const parsed = JSON.parse(data);
  89. yield parsed;
  90. } catch (e) {
  91. console.warn('Failed to parse SSE data:', data);
  92. }
  93. }
  94. }
  95. }
  96. } catch (error) {
  97. yield { type: 'error', data: error.message || 'ネットワークエラー' };
  98. }
  99. }
  100. async *streamAssist(
  101. instruction: string,
  102. context: string,
  103. authToken: string
  104. ): AsyncGenerator<{ type: 'content' | 'error'; data: any }> {
  105. try {
  106. const response = await fetch('/api/chat/assist', {
  107. method: 'POST',
  108. headers: {
  109. 'Content-Type': 'application/json',
  110. 'Authorization': `Bearer ${authToken}`,
  111. 'x-user-language': localStorage.getItem('userLanguage') || 'ja',
  112. },
  113. body: JSON.stringify({ instruction, context }),
  114. });
  115. if (!response.ok) {
  116. yield { type: 'error', data: 'リクエストに失敗しました' };
  117. return;
  118. }
  119. const reader = response.body?.getReader();
  120. if (!reader) return;
  121. const decoder = new TextDecoder();
  122. let buffer = '';
  123. while (true) {
  124. const { done, value } = await reader.read();
  125. if (done) break;
  126. buffer += decoder.decode(value, { stream: true });
  127. const lines = buffer.split('\n');
  128. buffer = lines.pop() || '';
  129. for (const line of lines) {
  130. if (line.startsWith('data: ')) {
  131. const data = line.slice(6);
  132. if (data === '[DONE]') return;
  133. try {
  134. yield JSON.parse(data);
  135. } catch (e) { console.warn(e) }
  136. }
  137. }
  138. }
  139. } catch (error: any) {
  140. yield { type: 'error', data: error.message };
  141. }
  142. }
  143. }
  144. export const chatService = new ChatService();