| | |
|---|
| | | |
|---|
| | | import javax.annotation.PostConstruct; |
|---|
| | | import java.util.ArrayList; |
|---|
| | | import java.util.HashMap; |
|---|
| | | import java.util.List; |
|---|
| | | |
|---|
| | | @Component("AliLlmStrategyService") |
|---|
| | |
|---|
| | | |
|---|
| | | private GenerationParam generationParam; |
|---|
| | | |
|---|
| | | private static final String apiKey = "sk-babdcf8799144134915cee2683794b2f"; |
|---|
| | | private static final String model = "qwen-plus"; |
|---|
| | | |
|---|
| | | @PostConstruct |
|---|
| | | public void init() { |
|---|
| | | this.generationParam = GenerationParam.builder() |
|---|
| | | // 若没有配置环境变量，请用阿里云百炼API Key将下行替换为：.apiKey("sk-xxx") |
|---|
| | | .apiKey("sk-babdcf8799144134915cee2683794b2f") |
|---|
| | | .apiKey(apiKey) |
|---|
| | | // 模型列表：https://help.aliyun.com/zh/model-studio/getting-started/models |
|---|
| | | .model("qwen-plus") |
|---|
| | | .model(model) |
|---|
| | | .resultFormat(GenerationParam.ResultFormat.MESSAGE) |
|---|
| | | .build(); |
|---|
| | | } |
|---|
| | |
|---|
| | | Generation gen = new Generation(); |
|---|
| | | generationParam.setMessages(messages); |
|---|
| | | generationParam.setResultFormat(GenerationParam.ResultFormat.MESSAGE); |
|---|
| | | generationParam.setEnableThinking( true); |
|---|
| | | generationParam.setIncrementalOutput(true); |
|---|
| | | Flowable<GenerationResult> result; |
|---|
| | | try { |
|---|
| | |
|---|
| | | |
|---|
| | | return Flux.from(result) |
|---|
| | | .map(message -> { |
|---|
| | | String content = message.getOutput().getChoices().get(0).getMessage().getContent(); |
|---|
| | | return new FebsResponse().success().data(content); |
|---|
| | | HashMap<String, String> stringStringHashMap = new HashMap<>(); |
|---|
| | | if (StrUtil.isNotEmpty(message.getOutput().getChoices().get(0).getMessage().getReasoningContent())){ |
|---|
| | | stringStringHashMap.put("reasoningContent",message.getOutput().getChoices().get(0).getMessage().getReasoningContent()); |
|---|
| | | } |
|---|
| | | if (StrUtil.isNotEmpty(message.getOutput().getChoices().get(0).getMessage().getContent())){ |
|---|
| | | stringStringHashMap.put("content",message.getOutput().getChoices().get(0).getMessage().getReasoningContent()); |
|---|
| | | } |
|---|
| | | return new FebsResponse().success().data(stringStringHashMap); |
|---|
| | | }) |
|---|
| | | .doOnComplete(() -> { |
|---|
| | | long endTime = System.currentTimeMillis(); |
|---|
