客户案例-樂君科技

客户背景

香港樂君科技有限公司是一家专注于智能互动技术与AI内容生成的高新科技企业，致力于为全球企业提供领先的人工智能对话系统、内容创作引擎和数字化客户体验解决方案。公司总部位于香港，核心团队由来自海外的AI研究人员和资深产品设计师组成。乐君科技以“智能连接人与内容”为使命，深耕生成式AI（Generative AI）在客户服务、市场营销、教育培训等垂直行业的落地应用，助力企业迈向更智能、高效和具互动性的数字化运营新阶段。

 

项目背景

客户计划引入GenAI的能力，来解决目前企业面临的业务痛点，

客户在GenAI方面的业务挑战：

1. 客户互动体验提升需求

• 难以实现7×24小时在线互动服务；
• 传统客服模式人力成本高，响应不及时，用户满意度偏低。

2. 内容创作效率低下

• 市场营销、社交媒体运营依赖人工文案，效率低、质量参差不齐；
• 创意枯竭、文案重复性高，难以保持品牌活力。

3. 产品功能差异化与用户体验不足

• 市场现有AI陪聊工具功能单一、定制能力弱；
• 无法有效满足不同垂直行业（如在线教育、健康咨询等）的特定需求。

4. 目标用户需求难以洞察

• 缺乏系统性用户调研手段；
• 客户对AI服务的接受度、信任度不确定。

5. 运营成本控制与服务质量矛盾

• 传统客户支持系统成本高、可扩展性差；
• 难以兼顾客户满意度与运营效率。

6. 内容生成合规性与质量控制

• 自动生成内容可能引发版权、偏见或不实信息风险；
• 缺乏生成内容的审核、控制机制。

 

为什么选择 AWS 及 Partner

AWS 优势

在该项目中，aws提供了丰富的GenAI产品服务以及安全高可用高可扩展性的基础设施服务，基于客户的业务挑战，AWS GenAI解决方案如下：

1. 搭建AI陪聊助手：使用 Amazon Bedrock 集成 Anthropic Claude、Nova 等模型，快速部署自定义聊天机器人或虚拟助手。
2. 快速内容生成与优化：借助 Bedrock + Claude 等模型实现营销文案、SEO内容、邮件自动撰写、脚本生成等。
3. 多语言能力：集成 Amazon Translate、Amazon Comprehend 实现多语言文案生成、情感分析与语义识别。
4. 客户反馈分析与用户洞察：使用 Comprehend 自动分析客户调查文本、识别用户情绪和关注点，结合 Bedrock 实现总结与推荐。
5. 可控对话设计：使用 Amazon Lex 构建结构化、流程性强的对话流程，可融合Bedrock大模型增强开放问答能力。
6. 成本与推理控制：利用 Bedrock 的按需调用计费模式（Serverless），结合模型评估与A/B测试，平衡效果与成本。
7. 生成内容审核与安全：利用 Guardrails for Amazon Bedrock 限制生成内容的语调、话题，确保合规性和品牌一致性。
8. 构建行业特定解决方案：支持微调或RAG（Retrieval-Augmented Generation）模式，对接企业知识库（如Amazon OpenSearch + Bedrock）以提供定制化陪聊服务。

在云上 Partner

针对上述项目背景，作为AWS合作伙伴，我们拥有以下相关能力，可以为客户提供定制化的解决方案：

1. 架构设计和规划：我们具备深入了解项目需求和业务流程的能力，在结合GenAI服务的基础上，设计符合客户需求的解决方案架构。

• 多可用区域部署和高可用架构设计：针对该项目的重要性和对连续性的需求，我们将设计多可用区域（Multi-AZ）的部署方案，确保服务的高可用性。
• 安全性和合规性：我们给客户提供数据合规方面的建议，联合咨询公司一起为客户提供业务合规服务。
• 性能优化和容量规划：我们将通过监控和调优数据库性能，提供最佳的用户体验。我们将使用AWS提供的性能监控工具，识别潜在的性能瓶颈，并优化数据库配置和查询性能，以提升应用的响应速度和扩展能力。同时，我们将基于业务需求进行容量规划，确保资源的合理分配和管理。
• 自动化运维和备份策略：我们将配置自动备份、软件补丁和数据库日志管理等自动化运维任务，减少运维工作的复杂性，并确保数据库的稳定性和可靠性。此外，我们将制定灾难恢复和数据备份策略，包括定期备份和快照，以保证数据的安全和可恢复性。

通过以上能力，我们将为客户提供定制化的解决方案，帮助其构建稳定、高性能和安全的企业应用环境，满足该项目的需求，并实现业务目标。我们将与客户密切合作，提供全方位的咨询、设计、部署和支持服务，确保项目的成功交付和长期的业务运营。

 

解决方案

业务核心工作负载架构

架构图

 

设计思路

1. GenAI相关服务考虑服务的可用性，我们均采用aws serverless架构设计的云服务产品，本身是不需要进行网络规划的；
2. 企业应用集成，单独规划了一个与企业应用区分的VPC网段，规划了多个私有子网来与企业应用进行网络打通，位于本地的企业应用我们使用VPN来打通网络。
3. 部署在AWS上的企业应用我们使VPC对等连接进行网络打通。

 

网络安全

在此客户案例中，网络安全的重要组成部分是安全组（Security Groups）和网络访问控制列表（Network Access Control Lists，简称ACL）。下面是我们如何规范安全组和ACL的步骤：

安全组（Security Groups）：

1. 最小权限原则：遵循最小权限原则，仅开放必要的端口和协议。只允许必需的流量进入和离开实例。
2. 明确规则：为每个安全组定义明确的入站和出站规则。这些规则应该清晰描述允许或拒绝的流量类型、来源和目标。
3. 特定来源和目标：限制流量的来源和目标。根据需要，可以指定特定的IP地址范围、安全组或VPC。
4. 周期性审查：定期审查安全组规则，确保它们与当前需求和最佳实践保持一致，并且没有不必要的开放端口或过度开放的权限。
5. 标记规则：对于复杂的环境，可以使用标记（Tags）来标识特定的安全组规则，以便更容易管理和跟踪它们。

网络访问控制列表（Network ACLs）：

1. 防火墙规则：配置ACL规则以允许或拒绝特定的IP地址范围、端口和协议。与安全组不同，ACL规则是应用于子网级别的。
2. 优先级：ACL规则按照优先级顺序进行评估，因此确保规则的顺序正确，以避免不正确的流量过滤。
3. 默认规则：定义适当的默认规则，以确保未明确匹配的流量受到正确的处理。一般来说，建议使用默认的拒绝规则，只允许特定的例外情况。
4. 网络流量监控：定期监控ACL日志以检测异常流量模式，及时发现潜在的安全威胁。
5. 审查和更新：定期审查ACL规则，并根据需要进行更新。随着网络拓扑和需求的变化，ACL规则可能需要调整以确保适当的安全性和可用性。

在配置安全组和ACL时，还应该考虑与其他安全控制措施的配合，如网络访问控制、加密、身份和访问管理等。最终的目标是建立一个综合的安全体系，确保AWS上的应用和数据受到充分保护。

樂君科技对灾备测试和方案表示认可且通过 POC 测试进一步证明方案可行性，将部署业务系统时使用这套 DR 方案。

在进行 总拥有成本（TCO）分析 或 成本建模 时，我们从多个角度收集信息，以确保成本估算尽可能准确，并能够为客户提供清晰的价值体现。

1. 
   

   收集客户现有基础设施清单

• 阿里云配置清单：列出客户现有在阿里云上运行的资源清单。

2. 客户工作负载描述

• 应用程序和服务：列出客户需要迁移或部署的关键应用和服务，了解每个应用的资源需求（CPU、内存、存储、带宽等）。
• 数据量和流量：确定需要处理的数据量、存储需求、流量模式（如入站流量、出站流量、跨区域流量等）。
• 计算需求：根据应用的计算需求估算所需的 EC2 实例类型和数量。可能需要考虑不同实例类型（例如，通用型、计算优化型、内存优化型等）的成本。
• 存储需求：确定需要的存储类型和大小，包括对象存储（S3）、块存储（EBS）、数据库存储等。
• 备份和灾难恢复需求：估算数据备份、备份频率、恢复策略和相关成本。

3. 定价模型

• AWS定价模型：使用 AWS 定价计算器来获取每个服务的详细价格。例如，Lambda、S3 存储、数据库等服务的费用。需要输入的参数包括：
• 数据传输量（如进出 AWS 的数据量）
• 预留实例或按需实例的选择
• 服务期限（如 1 年、3 年的预留实例）
• 折扣和优惠：考虑客户是否符合 AWS 的折扣政策，例如 企业折扣、容量预留折扣、自动化/长期使用折扣。

4. 为客户提供的估算摘要

• 成本摘要：提供详细的成本估算报告，包括各项服务（计算、存储、网络等）的费用及总成本。可以通过 AWS 定价计算器或通过自己构建的模型来生成报告。
• 长期成本预测：提供按年/季度的成本预测，帮助客户理解长期持有成本和运营支出。
• 成本优化建议：在估算过程中，提供一些优化建议（例如，使用预留实例、按需扩展、使用 S3 IA 存储类型等），帮助客户降低成本。

 

商业价值

AWS 解决方案可以为客户带来多方面的商业价值：

1. 成本优化与弹性支出

• 按需付费模式：客户可以根据实际需求使用计算和存储资源，避免了高昂的前期投资成本和过度配置带来的资源浪费。例如，使用 AWS EC2 实例时，客户仅需为实际使用的资源付费，避免了过度购买硬件的风险，且可以根据实际使用需求考虑是否购买RI、SP等优惠折扣计划。
• 自动扩展和按需资源：AWS 提供了自动扩展服务（如 Auto Scaling、Lambda），客户可以根据需求自动增加或减少资源，优化开支，避免在业务波动期间支付不必要的成本。

2. 提高业务敏捷性与创新

• 快速部署与迭代：AWS 提供丰富的开发工具和服务（如 Amazon EKS、Elastic Beanstalk、CodePipeline），客户可以更快速地部署、更新和管理应用，显著缩短从开发到生产的周期，加速产品创新。
• 全球扩展能力：AWS 提供全球数据中心支持，客户可以轻松扩展应用到不同的区域和市场，而无需建立和管理物理数据中心。这种全球化的能力使得客户能够快速应对市场变化和扩展需求。

3. 提高业务连续性与灾难恢复能力

• 高可用性与容错设计：AWS 提供多区域、多可用区的架构设计，帮助客户构建高可用性解决方案。即使在部分区域发生故障时，应用也能无缝切换到其他区域，保持业务不中断。
• 灾难恢复（DR）：AWS 支持简便的灾难恢复解决方案，例如使用 Amazon S3 和 Glacier 进行数据备份，通过 AWS Elastic Disaster Recovery 实现应用恢复。客户可以更轻松地为其业务构建灾难恢复计划，大大减少停机时间和数据丢失风险。

4. 安全性与合规性

• 强大的安全机制：AWS 提供内置的安全功能，如 VPC、IAM、KMS、WAF、CloudTrail 等，帮助客户保护应用和数据免受威胁，确保企业数据的机密性和完整性。
• 合规性支持：AWS 遵循全球范围内的多个合规标准和认证（如 GDPR、ISO 27001、HIPAA 等），帮助客户满足行业和法规要求，降低合规成本和风险。

5.  提高客户体验

• 全球内容分发与加速：通过 AWS 的 CDN 服务（如 Amazon CloudFront），客户可以快速、稳定地向全球用户提供内容。特别是对于跨境业务，能够降低延迟，提升用户体验。
• 个性化服务：利用 AWS 的数据分析和机器学习能力，客户能够为用户提供个性化推荐和定制化服务，提升客户满意度和忠诚度。