运算速度

数字滤波器

数字滤波器滤波器术语衰减 – 输出信号幅度相对于输入信号幅度降低。截止频率 – 滤波器的响应降至额定通带纹波以下时的频率。通带 – 滤波器频率范围,信号通过该范围的衰减量不超过额定值。阻带 – 滤波器频率范围,信号通过该范围时会发生额定量的衰减。阻带衰减 – 阻带中的最小衰减量。通带纹波 – 通带中的实际输出幅度与期望输出幅度的最大偏差。采样速率 – 系统...

XRender 扩展的设计和实现(Design and Implementation of the X Rendering Extension)

原文地址:https://keithp.com/~keithp/talks/usenix2001/xrender/,本文仅做翻译。 X Rendering Extension(或者说render,XRender)是X11核心协议的扩展,用于在X Server中实现图像合成。 一、摘要 在2000年的Usenix技术大会,介绍了X渲染环境以及将X呈现出来所需...

Intel 8086/8088 CPU 结构与可编程寄存器

目录 一、8086/8088 CPU 功能结构 二、CPU内部寄存器组 (一)通用寄存器 1. 数据寄存器 2. 间接寻址寄存器 3. 指针寄存器 (二)段寄存器 (三)指令指针 IP (四)标志寄存器 1. 状态标志 2. 控制标志 一、8086/8088 CPU 功能结构 Intel 公司于 1978 年推出了标准 16...

BUAA_2019_MATLAB基础与应用_期末复习纲要

Matlab复习提纲 一、概述 1. Matlab(Matrix Laboratory)概述 1980年,由美国的 Clever Moler 博士开发; 是一款 科学与工程计算软件; 第四代智能计算机语言。 2. 功能与特点 开放性强、可扩展性强,兼容性强,直观灵活; MATLAB提供了丰富的矩阵运算处理功能,是基于矩阵运算的处理工具; 矩阵运...

【转】CUDA程序优化要点

CUDA程序优化应该考虑的点:精度:只在关键步骤使用双精度,其他部分仍然使用单精度浮点以获得指令吞吐量和精度的平衡;    目前 GPU 的单精度性能要远远超过双精度性能,整数乘法、求模、求余等运算的指令吞吐量也较为有限。在科学计算中,由于需要处理的数据量巨大,往往采用双精度或者四精度才能获得可靠的结果,目前的 Tesla 架构还不能很好的满足高精度计算的...

计算机基础——位运算

位运算操作是由处理器支持的底层操作,因此运行速度很快。尽管现代计算机处理器拥有了更长的指令流水线和更优的架构设计,使得加法和乘法运算几乎与位运算一样快,但是位运算消耗更少的资源。 你可能经常在JDK源码中看到位运算操作,因此对位运算的掌握是有必要的。 举个例子,比如java.lang.Long的hashCode()方法: public static...

数据库SQL优化大总结之 百万级数据库优化方案(转载)

网上关于SQL优化的教程很多,但是比较杂乱。近日有空整理了一下,写出来跟大家分享一下,其中有错误和不足的地方,还请大家纠正补充。 这篇文章我花费了大量的时间查找资料、修改、排版,希望大家阅读之后,感觉好的话推荐给更多的人,让更多的人看到、纠正以及补充。   一、百万级数据库优化方案 1.对查询进行优化,要尽量避免全表扫描,首先应考虑在 where 及 o...

汇编效率优化:指令处理机制

大多数情况下,编写程序都不会使用汇编语言而是使用高级语言,原因大致有以下几点: 花费更多时间。高级语言的一行相当于汇编语言的几行、几十行甚至更多。 不够安全。比如说在进行函数调用时PUSH与POP必须成对出现,高级语言中的函数调用会自动为你执行PUSH与POP的操作,但是汇编语言中就必须由程序员自己保证PUSH与POP一致,否则会导致栈错乱,使得程序出现...

(转)ublox公司AGPS解决方案简介

转自 http://hi.baidu.com/fenglinggoto/item/ab480234277d254b3075a1d9 u-blox公司A-GPS解决方案简介 GPS的应用日益普及,车用导航及PDA/PND便携式导航设备在市场上大行其道,而其应用领域除了与相片、影音播放相结合外,也逐渐从汽车导航跨入行人的徒步随身导航,在应用性上也更强调位基服务...

计算机组成原理 — GPU 图形处理器

目录 文章目录 目录 显卡 GPU GPU 与深度学习 GPU 与 CPU 体系结构的区别 GPU 显存与 CPU 主存的区别 GPU 与 CPU 之间的数据交互方式 GPU 的体系结构 GPU 的工作原理 GPU 的关键参数 CUDA 编程模型 CUDA 的架构 CUDA 的核心概念 CUDA 的工作原理 云主机显卡的实现方式 虚拟显卡...