这种变化,不喧哗,却如地下水脉,在混凝土的缝隙里悄然拓延。
真正的考验,来自“星海科技”。
这是一家估值超百亿的AI医疗企业,技术锐利,资本瞩目,但过去两年接连曝出三起伦理争议:一款辅助诊断算法被发现对深肤色患者误判率高出17%;一项基因数据库合作中,用户知情同意书嵌套在长达47页的服务协议末尾;最严重的是去年底,其研发的手术导航系统在临床试验阶段,因压缩测试周期导致两名高龄患者出现非预期神经反应。事件被媒体曝光后,公司发布声明称“符合现行所有监管标准”,并将责任归于“个体生理差异的不可控性”。
星海委托启明中心开展“组织伦理韧性评估”,表面是咨询,实为危机公关前置。项目启动会上,星海COO王铮四十出头,腕上是新款钛合金智能表,表盘实时跳动着心率与压力值。“林老师,我们想要的不是忏悔录,”他微笑,指尖轻点平板,“是可量化的修复路径。比如,如何让算法工程师在KPI压力下,依然保有对‘错误’的敬畏?如何让法务在合同审核时,不止看条款是否合法,更看见条款背后的人?”
林砚看着他腕上那块表——屏幕右下角,一行极小的灰色字正无声滚动:“压力值:89%|建议:深呼吸三次”。
他点点头,没接话,只打开笔记本,写下第一行:“伦理不是待修复的故障,而是系统运行时的默认语言。当语言失语,所有补丁都是临时胶带。”
接下来两周,林砚没进星海总部,而是带着陈默和两位资深研究员,扎进三个真实场景:跟诊一位使用该导航系统的外科医生,记录他在术前确认患者身份时多问的那句“您昨晚睡得好吗”;蹲点算法实验室,观察工程师在深夜调试模型时,如何反复回放一段深肤色患者的影像片段,最终手动标注了237处易被忽略的纹理特征;混入客服中心,听一位入职三个月的姑娘如何应对愤怒家属——她没按SOP念免责条款,而是先问:“您希望我们怎么帮您记住爸爸?”然后默默调出老人住院期间所有未被系统标记的微小需求:怕冷、爱听京剧、枕头要垫高两厘米……
这些碎片,林砚没写成报告,而编成一本薄册,封面无字,内页是黑白影像与手写体对话实录。他把它放在星海CEO办公室的茶几上,旁边是一杯刚沏好的龙井。
CEO周屹,五十二岁,清华计算机系出身,创业二十年,墙上挂着他与多位院士的合影,书架上《人工智能伦理导则》崭新未拆。他翻开册子,起初漫不经心,翻到第七页——那是客服姑娘的录音转录:“……您说他总在凌晨三点醒,摸着床头柜找老花镜?我们查了病房监控,他其实是在找您年轻时的照片。我们已经扫描存档,加密,设了语音唤醒:‘爸,照片在这里。’”
周屹的手指停住。他抬头,望向窗外。正值黄昏,西边云层裂开一道缝隙,夕阳熔金般泼洒进来,恰好落在他办公桌一角——那里摆着一张泛黄的照片:少年周屹穿着洗旧的蓝布衫,站在村小操场,身后黑板上,粉笔字迹遒劲:“日日新”。
他沉默了很久,久到茶汤凉透。最后,他拿起电话,拨通王铮:“取消原定的‘伦理风险管控体系’发布会。下周,开全员会。主题:《我们漏掉了什么?》——主讲人,林砚老师。”
会场设在星海最大的阶梯教室。三百二十个座位,座无虚席。林砚没用PPT,只带了一支粉笔,一块黑板。
他转身,在黑板中央写下两个字:“光”。
然后,他擦掉。
再写:“人”。
再擦。
第三次,他写下:“光——人”。中间用一道长长的破折号连接,破折号末端,他画了一扇打开的窗。
“我们总在讨论如何让技术更亮,”林砚的声音平稳,却像石子投入深潭,“却忘了光存在的前提,是有人愿意成为窗。”
他讲起陈默奶奶的山乡小学,讲起那位拒绝虚假报表的总监,讲起客服姑娘记住的凌晨三点……故事里没有英雄,只有具体的人,在具体时刻,做了具体的选择——选择多问一句,选择多看一眼,选择在系统说“完成”时,心里悄悄说“等等”。
“道德育人,从来不是把人塑成某种标准形状,”粉笔灰簌簌落在他袖口,“而是帮每个人认出自己体内那束光的波长。它或许微弱,但只要存在,就足以在某个转角,让另一个人看清脚下的路。”
散会时,没人鼓掌。人们安静地起身,有人驻足看黑板上未擦净的粉笔印,有人低头翻看刚发的册子,更多人走向门口——那里,不知何时,已悄然立起一面素白展板。展板上,贴满了便签纸:
“昨天,我退回了那份美化过的用户投诉汇总。”
“我重新写了算法偏见检测模块的说明文档,加了三页真实案例。”
这章没有结束,请点击下一页继续阅读!
喜欢道德育人思想高尚请大家收藏:(m.20xs.org)道德育人思想高尚20小说网更新速度全网最快。