为什么要做性能优化
提高用户体验：性能优良的程序能快速响应用户输入和操作，避免长时间的等待和延迟，从而提供流畅的用户体验。
节省资源：通过优化，可以减少程序运行所需的内存、CPU和存储资源，这对于节省成本和保护环境都很重要。
提高软件的可靠性：通过优化，可以减少程序在处理大量数据或复杂任务时的错误和崩溃，提高软件的可靠性。
满足业务需求：对于许多应用来说，性能是关键的商业指标。例如，对于在线交易系统、实时音视频通信或大数据分析系统，快速和可靠的性能是必不可少的。
遵守性能标准或法规：在某些行业或应用场景中，可能存在性能标准或法规要求，例如医疗、金融或交通行业。
扩展软件的生命周期：通过持续的性能优化，可以使软件在长时间内保持竞争力，从而延长软件的生命周期。
提高开发效率：性能优化往往需要深入理解软件的内部工作原理，这可以加深开发人员对软件的理解，从而提高未来的开发效率。
满足客户需求：客户可能对软件性能有特定的要求或期望，性能优化可以满足这些需求。
支持国际化：对于需要支持多种语言和地区的软件，性能优化可以帮助减少不同地区和文化背景下的性能差异。
预防未来的技术风险：随着技术的快速发展，新的硬件和软件环境可能会对旧软件构成挑战。通过性能优化，可以预防未来因技术更新而产生的风险。
JAVA性能优化需要考虑哪些指标
指标是我们衡量很多事物，以及做出行为决策的重要参考。例如在生活中，当你打算买汽车时，会关注
很多指标，比如动力性、燃油经济性、制动性、操纵稳定性、平顺性、通过性、排放与噪声等，而这些
指标也都有相关的测试和参数，同时也会对这些指标进行一一参考。
这个道理大家都懂，但一旦到了性能优化上，却往往因为缺乏理论依据而选择了错误的优化方向，陷入 了盲猜的窘境。在衡量一项优化是否能达到目的之时，不能仅靠感觉，它同样有一系列的指标来衡量你 的改进。如果在改动之后，性能不升反降，那就不能叫性能优化了。
所谓性能，就是使用有限的资源在有限的时间内完成工作。最主要的衡量因素就是时间，所以很多衡量 指标，都可以把时间作为横轴。加载缓慢的网站，会受到搜索排名算法的惩罚，从而导致网站排名下降。因此加载的快慢是性能优化是 否合理的一个非常直观的判断因素，但性能指标不仅仅包括单次请求的速度，它还包含更多因素。
最直观的性能指标
那就是吞吐量还有时间以及响应速度
吞吐量是什么意思
我们以十字路口为例：
在交通非常繁忙的情况下，十字路口是典型的瓶颈点，当红绿灯放行时间非常长时，后面往往会排起长 队。
从我们开车开始排队，到车经过红绿灯，这个过程所花费的时间，就是响应时间。
当然，我们可以适当地调低红绿灯的间隔时间，这样对于某些车辆来说，通过时间可能会短一些。但 是，如果信号灯频繁切换，反而会导致单位时间内通过的车辆减少，换一个角度，我们也可以认为这个 十字路口的车辆吞吐量减少了。
像我们平常开发中经常提到的，QPS 代表每秒查询的数量，TPS 代表每秒事务的数量，HPS 代表每秒的 HTTP 请求数量等，这都是常用的与吞吐量相关的量化指标。
在性能优化的时候，我们要搞清楚优化的目标，到底是吞吐量还是响应速度。有些时候，虽然响应速度 比较慢，但整个吞吐量却非常高，比如一些数据库的批量操作、一些缓冲区的合并等。虽然信息的延迟 增加了，但如果我们的目标就是吞吐量，那么这显然也可以算是比较大的性能提升。
所以我们可以这样理解：
响应速度是串行执行的优化，通过优化执行步骤解决问题；
吞吐量是并行执行的优化，通过合理利用计算资源达到目标。
说到这个吞吐量肯定就得谈 QPS，那么什么是 QPS 呢？影响 QPS 的因素有哪些呢？
影响 QPS 的因素
QPS（Queries Per Second）即每秒查询率，是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。在大模型场景下，QPS的提升意味着模型推理速度的提高，能够为更多用户提供服务或降低模型推理的成本。
在大规模并行处理的计算环境中，QPS经常被用来衡量一个系统或应用的性能。例如，在数据库领域，QPS通常用来衡量数据库服务器每秒能够响应的查询数量。
QPS（Queries Per Second）是衡量系统处理能力的一个重要指标，影响QPS的因素有很多，主要包括以下几个方面：
硬件性能：服务器的处理能力、内存容量、网络带宽等都会对QPS产生影响。处理能力越高、内存越大、网络带宽越宽，服务器能够同时处理的请求数量就越多，QPS就越高。
数据库优化：数据库的优化对QPS有很大影响。通过合理设计数据库表结构、建立适当的索引、调整数据库的参数等，可以提高数据库的查询和写入效率，从而提高QPS。
缓存机制：使用缓存可以减轻数据库的负载，提高系统的响应速度。通过将频繁使用的数据存放在缓存中，可以减少对数据库的查询次数，从而提高QPS。
编程语言和模型：编程语言和模型的选择也会对QPS产生影响。一些语言或模型可能在处理大量请求时表现出更高的性能，而另一些则可能在处理复杂逻辑时表现更好。
系统瓶颈：系统的其他组件，如网络、磁盘I/O、CPU等也可能成为瓶颈，限制QPS的提高。
数据结构和算法：使用合适的数据结构和算法可以有效地提高数据处理速度，从而提高QPS。
系统设计和架构：良好的系统设计和架构可以使系统更高效地处理请求，从而提高QPS。
并发处理能力：系统并发处理请求的能力也会影响QPS。通过合理地使用多线程或多进程，可以提高系统的并发处理能力，从而提高QPS。
系统监控和调优：定期对系统进行监控和调优，可以及时发现和解决性能瓶颈，从而提高QPS。
负载均衡：通过负载均衡技术，可以将请求分发到多个服务器或多个数据库上，从而平衡负载，提高系统的整体处理能力。
