[RFC] 关于 AI Native 模块的建设
#3250
Replies: 2 comments
-
议题
OpenSumi Design 拆分问题所在:
重构策略 有两种重构方案
具体功能拆分
模块 API 和插件 API 的设计模块 API主要是给集成方使用，通过实现 AiNativeCoreContribution 接口的方式来调用模块 API 比如 inline chat api（这三个按钮都是上层集成方注册的） 当前设计的模块 API 有这些，只涉及到 run（顶部的 run 按钮）、inline chat 以及智能补全 export interface AiNativeCoreContribution {
/**
* 注册 ai run 的能力
* @param registry
*/
registerRunFeature?(registry: IAiRunFeatureRegistry): void;
/**
* 注册 inline chat
* @param registry
*/
registerInlineChatFeature?(registry: IInlineChatFeatureRegistry): void;
/**
* 通过中间件扩展部分 ai 能力
*/
middleware?: IAiMiddleware;
}其中 middleware 字段主要是用于代理 monaco 的 api，以达到扩展的目前，当前仅可扩展智能补全 API export type IProvideInlineCompletionsSignature = (
this: void,
model: monaco.editor.ITextModel,
position: monaco.Position,
token: CancellationToken,
next: (reqBean: CompletionRequestBean) => MaybePromise<CompletionResultModel | null>,
completionRequestBean: CompletionRequestBean,
) => MaybePromise<CompletionResultModel | null>;
export interface IAiMiddleware {
language?: {
provideInlineCompletions?: IProvideInlineCompletionsSignature;
};
}目前遇到的需求只涉及到以上这三个，后续如果有新的需求需要实现，直接扩展 AiNativeCoreContribution 接口即可 关于 AiBackService目前所有的 ai 接口请求都是用的 AiBackSerivcePath 这个 DI，位于 Node 层 @Injectable()
export class BaseAiBackService
extends RPCService<IRPCGptService>
implements IAiBackService<IAiBackServiceResponse, Readable>
{
async request<T = IAiBackServiceResponse<string>>(
input: string,
options: IAiBackServiceOption,
cancelToken?: CancellationToken,
): Promise<T> {
return void 0 as T;
}
async requestStream<T = IAiBackServiceResponse<string>>(
input: string,
options: IAiBackServiceOption,
cancelToken?: CancellationToken,
): Promise<T> {
return void 0 as T;
}
async requestCompletion<T = CompletionResultModel>(input: IAiCompletionOption, cancelToken?: CancellationToken) {
return void 0 as T;
}
async reportCompletion<T = IAiReportCompletionOption>(input: IAiReportCompletionOption) {}
async destroyStreamRequest(sessionId: string) {}
}而集成方可以用 AiBackSerivceToken 这个 token 去注册一个 AiBackService 来替代这个默认实现，进而可以将所有的 ai 接口请求都进到自己的 service {
token: AiBackSerivceToken,
useClass: OverrideAiBackService
}这样的设计有助于其他的模块如果仅仅只是想调用 AI 接口服务的时候，从 core-common 模块使用这个 DI 即可，而不必使用整个 AI Native 模块 比如 AI 智能解决冲突功能 插件 API目前只实现了 chatAgent 相关的 proposed 插件 API，已经具备了 agent 能力 其他 API 暂未开始 相关 Config 配置设计目前已有的配置项如下 export interface IAiNativeCapabilities {
/**
* 是否使用 opensumi design UI 风格
*/
supportsOpenSumiDesign?: boolean;
/**
* 问题面板是否使用 ai 能力
*/
supportsAiMarkers?: boolean;
/**
* 是否使用 Chat 助手能力
*/
supportsAiChatAssistant?: boolean;
/**
* 是否使用 inline chat 能力
*/
supportsInlineChat?: boolean;
/**
* 是否使用代码智能补全能力
*/
supportsInlineCompletion?: boolean;
/**
* 是否使用 ai 智能解决冲突的能力
*/
supportsConflictResolve?: boolean;
}
export interface AiNativeConfig {
capabilities?: IAiNativeCapabilities;
}后续等终端的 decoration 的设计内置之后，可再新增一个 capabilities 配置 代码文件结构优化
后续要将所有 chat 相关的代码放在 chat 目录里 |
Beta Was this translation helpful? Give feedback.
0 replies
-
|
todolist
|
Beta Was this translation helpful? Give feedback.
0 replies
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
-
介绍
打造 OpenSumi 内置的 AI 原生模块，皆在提供 IDE 内各个功能模块（如编码、搜索、调试、终端、Command等）与 AI 相结合的可能性。
我们打造 AI Native 模块的目标主要集中在几个方面
功能
具体要做的事情包括但不限于以下内容
TODO LIST
AI Chat 助手
基础对话能力
流式渲染能力
提供模型服务的接口接入能力
支持自定义模版渲染
输入框支持快捷指令注册
支持 agent 能力注册
代码渲染使用 monaco editor（待定）
关于 API
Inline Chat 能力
提供按钮注册能力
提供输入框 Chat 的能力
输入框快捷指令注册（如 "/fix xxxx"等）
根据模型接口的 answer 使用不同的预览策略来渲染
问题诊断
monaco editor 版本跟进
全新的 OpenSumi Design UI 视图
接下来
AI Native 模块的建设最早从九月底就已经开始投入，相关 PR 见 #3077
不过一直处于 WIP 的状态，前期也是在不断的摸索与尝试，发布模式也一直脱离于主干分支
现在我们认为它已经是一个较为稳定的版本，计划将该 chore/ai-native-module 分支的代码分批次的合入主分支中，并重构里面的代码内容，保证健康的拓展性与可维护性
我们会陆陆续续开始这方面的工作
Beta Was this translation helpful? Give feedback.
All reactions